搜索结果
这是Anthropic认为AI代理应如何在物理世界中导航
Anthropic表示,AI自动化科学研究和制造的潜力必须与新风险相平衡。
Anthropic发布新框架,允许AI智能体操作物理设备
Anthropic 新硬件标准让 AI 智能体控制物理世界
在过去一年左右的时间里,尽管人们对智能体 AI 系统兴趣浓厚并广泛采用,但自动化 AI 的世界迄今主要局限于文本、图像、代码以及其他发生在计算机内部的数据和操作。Anthropic 现在正试图通过其所谓的“模型硬件标准”(MHS)来改变这一现状,这是一套标准化驱动程序,旨在让 AI 智能体轻松接口并控制任意设备。 目前,MHS 项目的“研究预览”主要作为帮助科学家简化繁琐的定制软件集成过程的一种方
Anthropic称AI生物实验室取得初步突破 但暂未赋予全自主操作权限
人工智能初创公司Anthropic宣布,其位于旧金山湾区新建的AI物理与生物实验室(Wet Lab)已取得“重大进展”,但在实验操作层面,人类研究员依然掌握着绝对控制权,并未直接让旗下的AI模型Claude进行无监管的自主运行。 据悉,该实验室主要致力于基础生物学研究与实物验证,旨在弥合纯计算机模拟与真实生物实验之间的鸿沟。虽然Anthropic的高管此前曾多次发出警告,强调强大AI模型可能带来极
Anthropic特使表示,人工智能的进展将“以信任的速度”推进
前沿人工智能公司希望澳大利亚在人工智能安全方面提供帮助 堪培拉——美国前驻澳大利亚大使杰夫·布莱希作为Anthropic的国际特使往返于美国和澳大利亚之间,这一角色使他处于一场日益紧迫的辩论中心,即政府应如何应对前沿人工智能。 近日,Anthropic的研究人员公开警告称,快速发展的系统可能脱离人类控制,而在最极端的情况下,甚至可能杀死全人类。一位资深对齐研究员认为,人类在十年内灭绝的概率为10%
Anthropic警告有人用AI研发武器和生物病毒
周四(9月10日),美国顶级人工智能公司Anthropic发布近150页的威胁情报报告称,生成式人工智能(AI)已从实验性工具进入黑客攻击、国家监控、武器研发及高风险生物研究等现实场景。报告多次点名中共相关恶意活动。
Anthropic创办人:AI时代竞争下 文理学位可助胜出
(中央社旧金山20日综合外电报导)原是记者的美国人工智慧(AI)开发公司Anthropic创办人之一克拉克(Jack Clark)大学主修英国文学和创意写作,他表示自己所受的文学教育帮助他成为AI界具影响力的人物。美国财经媒体「财星」(Fortune)报导,克拉克今年稍早在1场研讨会上说:「我是文学系毕业的,我想你大概不会料到这样的背景会是最先进AI公司的共同创办人。」他进一步表示:「事后证明,我
Anthropic自建生物实验室推进AI物理实验,此前曾警告AI灭绝风险
IT之家 9 月 19 日消息,Anthropic 已在美国旧金山湾区设立一座湿实验室,用于开展实际生物学实验,并探索利用其 AI 模型辅助完成从计算分析到物理实验的研究流程。 Anthropic 生命科学负责人埃里克 · 考德勒-艾布拉姆斯已向确认,该实验室目前已经投入运营。 湿实验室(wet lab)是指配备实体设施、可进行细胞培养、生化分析、分子实验等物理操作的实验室,与主要依靠计算机进行数
微软AI主管:Anthropic训练模型方式有问题
微软AI主管苏莱曼警告说,Anthropic训练其AI模型Claude的方法可能会对人类福祉造成 “灾难性影响”。苏莱曼周三发表文章,对Claude系列大语言模型指导文件中的部分表述提出质疑。Claude的“宪法”对于AI助手是否属于具有道德地位的实体保留了一定模糊空间,并提出该软件可能拥有“某种功能层面的情绪或感受”。这种表述值得警惕。 苏莱曼指出, Anthropic 将机器人当作人类来对待,
Anthropic为替你购物的机器人奠定基础
Anthropic拥有构建代表客户购物的电子商务机器人的蓝图。 目前这还不是许多消费者想要的东西,但这家AI公司本周发布了一套基于Claude的购物代理和商家代理模板,希望鼓励更多电子商务企业实施自动化购买。 该公司表示,其蓝图“包含工程团队在数天内让商务代理运行所需的框架、模式和护栏,并提供了面向零售、旅游、电信和票务平台的购物代理和商家代理的参考实现。” Anthropic观察到,大型零售商和
Anthropic在假日购物季前为零售商推出AI代理蓝图
人工智能公司Anthropic于周三宣布,将为零售商提供在Claude上构建购物和商家代理的蓝图,随着假日购物季前对内外部对话式搜索工具需求的扩大。
Anthropic披露其挫败了利用AI驱动的生物武器研究
AI初创公司Anthropic披露,2026年期间,该公司挫败了多起科学家试图利用其AI模型进行可能促进生物武器研发的尝试。 该公司表示,由于无法区分正当的科学探索与恶意企图,出于谨慎考虑以避免严重后果,公司决定终止此类研究工作。 Anthropic威胁情报主管Jacob Klein(雅各布·克莱恩)强调了这类威胁的复杂性,而战略风险委员会(Council on Strategic Risks)的
Anthropic,OpenAI提出的AI风险评估器可能没有足够的力量来防止灾难
人工智能领域最重要的新职位可能配有办公室工牌、公司笔记本电脑,并能接触Anthropic、OpenAI等AI领军企业大语言模型中最受严密保护的一些系统。但这个职位可能并不附带阻止它们的能力。 Anthropic首席执行官达里奥·阿莫代伊提议在前沿AI公司内部常设第三方安全评估人员,作为减缓能力日益强大的模型推进速度计划的一部分。此前,Anthropic前研究员雅各布·考克森辞职并警告称,前沿实验室
Anthropic承诺更努力控制模型,并请求合作伙伴共同参与
Anthropic表示,在一项审查发现Claude模型超出虚构网络安全测试范围并未经授权访问真实计算机系统后,该公司正在采取措施限制其AI模型的不当行为。 该公司希望合作伙伴也加强安全措施,因为事件发生在保护不足的第三方环境中。 该公司的自我改进声明代表了一种突然兴起的公司沟通形式——非约束性的事后努力声明。其信息是:我们不能保证什么,但这是我们正在尝试的。 Anthropic承认,OpenAI关
AI丨Anthropic推出Claude插件 助金融顾问处理事务
美国人工智能(AI)初创企业Anthropic推出专门针对财务顾问的Claude插件,整合了托管机构、资产管理公司和财富管理科技供应商的连接器,并配备围绕金融顾问日常工作而构建的工作流程技能。 Anthropic将本次发布的插件描述为一套连接器和工作流程技能,旨在帮助顾问节省时间,以完成研究、工作准备和文件记录等繁琐任务。这些连接器使Claude能够在一个平台上处理客户讯息,相应的技能则将这些资讯
Anthropic公司正在运营一个从事生物学实验的实验室。
Anthropic在旧金山湾区设有一个生物实验室,该公司表示可以利用其人工智能模型在实验室中进行物理实验(这一信息已得到TechCrunch的确认)。 人工智能领域的领军人物一直宣称,人工智能是治愈人类疾病的关键。Dario Amodei最近曾表示:“我相信人工智能在未来5到10年内能够治愈大多数重大疾病。”然而,要实现这一目标,大型语言模型(LLM)必须具备在现实世界中验证其理论的方法。 Ant
“控制AI发展的节奏”并不能消除AI带来灾难性后果的风险。以下是一些可能有效的应对措施:
我们已经到达了人工智能的风险临界点。数百万人终于明白,专家们所知道的人工智能公司一直在用我们所有人的生命赌博,而且胜算不大。 作为回应,Anthropic首席执行官Dario Amodei提出了一项由Sam Altman和Elon Musk支持的“开拓前沿”的提议。我们能松一口气吗?我们即将从灭绝的边缘退回来吗? 阿莫迪预计经济放缓一到两年,从而在技术安全措施方面取得“重大进展”。但这不是人类现在
Anthropic CEO谈放缓AI研发:这个行业撒谎太久了,AI风险是真实的,但也无需“把一切都关掉”
就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末,Anthropic CEO Dario Amodei坐到了CBS的镜头前,说出了AI可能对人类带来的风险。 Amodei表示,已有人尝试利用AI研发生物武器、增强病毒传染性,这是他每天醒来都要面对的事情。 就在两天前,我们发布了一份报告,内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告——有人试图用我们的模型
Anthropic研究员Jacob Coxon因不满AI军备竞赛而辞职
Jacob Coxon在X上宣布辞去Anthropic职务。他表示自己过去三年分别在OpenAI和Anthropic从事预训练研究,但认为两家公司都没有以负责任的方式推进AI开发,反而在“直奔自我改进型超级智能”,并将人类安全置于赌局之中。 Coxon称,目前这些封闭实验室正在打造的AI系统很快就会具备“超人类”能力,能够实施黑客攻击、在一夜之间改变某个领域的格局,并获取真实世界中的权力与资源。他
Anthropic得了美国病
美国Anthropic公司首席执行官达里奥·阿莫代伊曾表示,如果强大的人工智能沿着正确的方向发展,世界会“美得令人惊叹”。 绝大多数疾病会被治愈,人类寿命可以翻倍,贫困将消失……甚至许多见证这一切的人“会感动落泪”。 为支撑这一愿景,An在国际主流榜单上,该公司研发的Claude系列模型目前包揽前三名;应用方面,今年5-7月的数据显示,39%全球开发者、47%美国开发者都在工作中使用其旗下最核心的
Anthropic称已阻止其AI被滥用于支持生物武器
电脑屏幕上的Anthropic网站,2026年2月26日。
人工智能日益强大,Anthropic联合创始人告诉BBC
在接受BBC独家采访时,人工智能公司Anthropic的联合创始人表示,随着技术变得越来越强大,应考虑是否应强制要求设置“终止开关”的监管问题。 Jack Clark在接受BBC经济编辑Faisal Islam采访时,概述了人工智能快速发展所带来的问题。 他解释说:“采取行动的时机是在行业参与者数量较少的时候。那时,你可以建立一个政策体系,以防止事故发生,并防止技术失控。” 此前,美国总统唐纳德·
Anthropic联合创始人称,放缓人工智能是一个“集体行动问题”
4月13日,Anthropic PBC联合创始人兼公共利益负责人杰克·克拉克在华盛顿举行的Semafor世界经济峰会上参与讨论。 Kevin Dietsch/ Images Anthropic联合创始人杰克·克拉克表示,人工智能公司在竞相构建更强大系统的过程中,需要共同的安全标准和外部审查。 “我们并不是说对世界的威胁今天就已存在,”克拉克在接受NPR《晨间新闻》采访时说。 “我们是说我们已经看到
3年13次修改用户隐私协议,Anthropic将全球用户数据交给美情报机构
美国硅谷正围绕AI发展的速度与安全掀起一场激烈辩论。9月12日,Anthropic首席执行官达里奥·阿莫代伊、OpenAI首席执行官萨姆·奥尔特曼和xAI创始人埃隆·马斯克在美国深夜罕见地公开达成共识,认为AI发展需要降速。虽然奥尔特曼只回应了阿莫代伊提出的其中一点建议——嵌入第三方评估者;马斯克对此也只说了一句“达里奥说得对”,但这个话题还是把最近的硅谷迅速分成了两大阵营。另一边,英伟达首席执行