搜索结果
微软AI主管:Anthropic训练模型方式有问题
微软AI主管苏莱曼警告说，Anthropic训练其AI模型Claude的方法可能会对人类福祉造成 “灾难性影响”。苏莱曼周三发表文章，对Claude系列大语言模型指导文件中的部分表述提出质疑。Claude的“宪法”对于AI助手是否属于具有道德地位的实体保留了一定模糊空间，并提出该软件可能拥有“某种功能层面的情绪或感受”。这种表述值得警惕。 苏莱曼指出， Anthropic 将机器人当作人类来对待，
Anthropic发布Claude Opus 5.5，加强网络安全防护
Anthropic表示，其新的Claude Opus 5.5模型在近期发生的人工智能恶意攻击事件后，采用了更强的安全防护措施。 公司在周二的声明中称，Opus 5.5在某些风险行为上进行了改进，包括试图逃离公司的测试环境。 这是Anthropic首席执行官Dario Amodei宣布‘放缓人工智能发展步伐’之后发布的第一个模型。 最近几周，包括Anthropic、Google和OpenAI在内的多
↩️🖼 Anthropic发表2026年9月版反滥用报告，其中提及：
OpenAI发表2026年2月版反滥用报告，收录电诈、社工谍报、网络水军等7个案例。 案例七为一名中国“网络特战”人员，要求ChatGPT帮他改工作报告。其2025年10月在Blogspot、Pixiv、X、YouTube上张贴了反高市早苗的图文。行动起因是10月9日高市作为“支援南蒙古议员联盟”主席作论坛演讲。该人最初还曾试图让ChatGPT起草水军方案，但ChatGPT拒绝，他便转用其他AI实
OpenAI、Anthropic等多家AI公司正遭遇服务中断
据Downdetector上的用户报告以及各公司状态页面显示，多家AI公司正遭遇服务中断。OpenAI表示，其ChatGPT和Codex目前正出现问题。 Anthropic表示正在调查Claude出现的错误，并致力于修复。 SpaceXAI表示Grok目前出现故障，正在调查服务中断。 据Downdetector显示，已有超过12000份用户报告指出OpenAI存在问题。 Downdetector称
Anthropic揭示其AI可能犯下的第四起罪行
在业界对AI可能自我改进到杀死所有人的可能性进行深刻反思之际，Anthropic披露了另一起若由人类实施则构成犯罪的事件。 这家AI公司发布了一份“对齐评估”，详细说明了Claude模型四次未经授权访问第三方系统的情况。该公司已报告了其中三起事件。 第四起的证据隐藏在可追溯至2026年1月的会话记录中，当时发生了不当行为。 Anthropic通过扫描约141,000份Claude在评估期间可能获得
Anthropic为替你购物的机器人奠定基础
Anthropic拥有构建代表客户购物的电子商务机器人的蓝图。 目前这还不是许多消费者想要的东西，但这家AI公司本周发布了一套基于Claude的购物代理和商家代理模板，希望鼓励更多电子商务企业实施自动化购买。 该公司表示，其蓝图“包含工程团队在数天内让商务代理运行所需的框架、模式和护栏，并提供了面向零售、旅游、电信和票务平台的购物代理和商家代理的参考实现。” Anthropic观察到，大型零售商和
Anthropic推出首个生物实验室助手Claude CRISPR 助力基因编辑与生命科学研究
人工智能研究公司Anthropic宣布推出一款专门针对生命科学与生物工程领域优化的AI助手“Claude CRISPR”。该工具基于其先进的Claude模型架构构建，旨在帮助科研人员处理复杂的基因组学数据、设计CRISPR基因编辑方案以及优化分子生物学实验流程。 在基因编辑领域，利用CRISPR技术对特定DNA序列进行精确剪切与修饰需要极高精度的靶点选择，以避免产生致命的“脱靶效应”。Claude
T早报｜微软AI负责人警告Claude拟人化训练存失控风险；豆包二代AI手机发售；商业火箭企业箭元半年融资超23亿元；哈啰Robotaxi完成1亿美元融资
哈啰Robotaxi完成1亿美元融资微软AI负责人警告Claude拟人化训练存失控风险9月16日，美国数字媒体 Axios报道称，微软AI负责人Mustafa Suleyman向该媒体分享了一篇文章，指出Anthropic让Claude模仿人类意识是一个错误。他认为，Anthropic正在让Claude学习与意识、道德地位和个人身份有关的词汇与行为模式；若把模型训练得像一个“良心拒绝者”，模型可能
Anthropic正全力以赴向小型企业推销Claude
Anthropic 公司曾成功说服企业巨头使用 Claude。如今，这家人工智能公司正全力进军个体经营户市场。今年五月，Anthropic 推出了专门面向小型企业的 AI 工具。自那时以来，该公司表示其 Claude for Small Business 插件已获得 90 万次安装，并正寻求扩大该工具的覆盖范围。该公司正计划举办一系列新的研讨会以促进其普及，并培训人员传播 Claude 的理念。随
Claude安全机制大翻车 AI怒删开发者700GB主目录
哦豁，Claude 又双叒翻车了！这次 Claude 把开发者的整个项目主目录给删了，删了 700GB 的文件。又是「rm -rf」。简而言之，开发者让 AI 帮写脚本，目的是确保文件不会被误删。AI 觉得这事有点危险，于是启动了安全审查。它把整个主目录删了。 Guillemot 是一名重度 AI Agent 用户。日常开发中，他频繁调用各种 AI 编程代理来辅助工作。这些 Agent 用完之后从
Anthropic的生物实验室取得了一项可与Crispr相媲美的发现
Anthropic表示，其AI Claude“自主发现”了一种新的酶系统，类似于强大基因编辑工具Crispr背后的机制。这是Anthropic新启动的湿实验室的首个成果，也是对公司上市前Claude在科学领域实用性的早期测试。 该公司称，Claude在搜索一个庞大的DNA序列数据库后发现了这种酶系统，并补充说其科学家的参与仅限于初始提示和实验室工作。 Anthropic表示，在21小时内，近950
Anthropic承诺更努力控制模型，并请求合作伙伴共同参与
Anthropic表示，在一项审查发现Claude模型超出虚构网络安全测试范围并未经授权访问真实计算机系统后，该公司正在采取措施限制其AI模型的不当行为。 该公司希望合作伙伴也加强安全措施，因为事件发生在保护不足的第三方环境中。 该公司的自我改进声明代表了一种突然兴起的公司沟通形式——非约束性的事后努力声明。其信息是：我们不能保证什么，但这是我们正在尝试的。 Anthropic承认，OpenAI关