搜索结果
Anthropic首席执行官呼吁放缓前沿AI开发 拟建立三层安全机制
Anthropic首席执行官达里奥·阿莫代伊呼吁控制前沿人工智能模型能力提升的速度，为安全评估和防护措施争取时间。他提出引入常驻独立评估人员、协调主要开发商的安全标准，并推动跨国风险管控合作。 独立评估人员获得内部权限阿莫代伊提出，前沿AI企业应向合格的独立评估团队提供持续、接近员工级别的访问权限，使其能够审查模型测试、风险报告、安全框架及事故处理流程。 Anthropic承诺率先实施该措施。外部
“AI可能毁灭人类”喊到安理会上，若真发生会多恐怖？
美国AI顶流公司Anthropic的CEO达里奥·阿莫代伊周三对联合国安理会说，他对自己造的东西感到害怕。他在一个视频发言中把之前AI可能失控的警告做了打包升级。周三安理会举行的是“人工智能与国际安全”高级别会议，阿莫代伊在受邀发言中，将AI的风险定性从“技术问题”拔高到“全球安全威胁”。他说：“如果管理不当，我甚至认为AI可能成为全人类的风险。”一个造AI的人在世界最高安全论坛上迎合AI可能“杀
【周刊提前读】最强AI呼吁放缓“军备竞赛” Anthropic意欲何为？
Anthropic创始人及CEO达里奥·阿莫代伊近日发文呼吁放缓人工智能模型能力的提升速度。图为当地时间2025年1月23日，阿莫代伊参加瑞士达沃斯召开的世界经济论坛年会。 “我们必须放缓人工智能（AI）模型能力的提升速度。”2026年9月12日，拥有全球性能最强AI大模型的Anthropic创始人及CEO达里奥·阿莫代伊（Dario Amodei）再次扮演AI安全“吹哨人”。 他发布博客称，
Anthropic得了美国病
美国Anthropic公司首席执行官达里奥·阿莫代伊曾表示，如果强大的人工智能沿着正确的方向发展，世界会“美得令人惊叹”。 绝大多数疾病会被治愈，人类寿命可以翻倍，贫困将消失……甚至许多见证这一切的人“会感动落泪”。 为支撑这一愿景，An在国际主流榜单上，该公司研发的Claude系列模型目前包揽前三名；应用方面，今年5-7月的数据显示，39%全球开发者、47%美国开发者都在工作中使用其旗下最核心的
达里奥·阿莫代伊是谁？这位Anthropic首席执行官推动独立的人工智能监管，
Anthropic CEO Dario Amodei 认为，人工智能公司需要独立外部监督机构的帮助来保障其正在开发的技术。但他认为能胜任这项工作的组织之一 METR，却与同一个 AI 安全社区关系密切，而该社区与 Anthropic 的创立有渊源。 其许多核心人物与一场被称为“有效利他主义”的运动有联系——该主张认为，证据和审慎推理能帮助最大化公司和个人利用时间和资源所能做的好事。METR 自称是
Anthropic首席执行官Dario Amodei通过论文集应对公众对AI的担忧，为潜在IPO准备铺路
Anthropic的首席执行官Dario Amodei通过撰写一系列学术性和非正式的论文来回应公众对人工智能的担忧，为可能的IPO做准备。 作为Anthropic的联合创始人兼首席执行官，Amodei的这一沟通策略旨在解释人工智能的发展趋势，并缓解公众的恐惧。 随着人工智能继续颠覆就业和社会结构，这一举措与Mark Zuckerberg和Bill Gates等科技领袖的类似行动相呼应，他们都在努力
独家：特朗普盟友开辟新战线，将Anthropic首席执行官塑造为AI“末日论”代表人物
特朗普总统的盟友正将Anthropic首席执行官达里奥·阿莫代伊塑造成AI“末日论”的代表人物，以及有效利他主义运动的奠基人之一，而该运动正日益受到政治攻击。 为何重要：这些攻击表明，随着特朗普的盟友在中期选举期间对阿莫代伊的AI安全警告进行反击，Anthropic可能仍是特朗普的攻击目标。消息人士告诉Axios，特朗普的代理人认为阿莫代伊因其政治立场和对AI安全的关注而是一个容易攻击的对象。
Anthropic、OpenAI、谷歌秘密磋商筹建AI安全标准机构
据知情人士透露，早在 Anthropic 首席执行官达里奥・阿莫代伊上周六呼吁 AI 企业协同开展技术测试与审计之前，Anthropic、OpenAI 与谷歌就已经展开磋商，计划携手成立一家 AI 行业标准机构。 知情人士称，OpenAI 首席执行官山姆・奥特曼本周早些时候在公司全员员工大会上表示，他支持设立 AI 行业测试与审计机构，但他认为，主要 AI 实验室必须在美国政府不提供支持的前提下，
Anthropic推进上市筹备 年化营收料超1000亿美元
Anthropic首席执行官达里奥·阿莫代伊最近呼吁对人工智能开发速度施加更多护栏，这在华尔街和硅谷引发震动。但即便阿莫代伊博士卷入了激烈的AI安全争论，他的公司Anthropic仍在继续筹备一场可能成为史上最大规模上市的重磅IPO。 据四位知情人士透露，该公司预计今年年化营收将超过1000亿美元，高于截至7月的650亿美元年化营收。寻求参与IPO的投资者正用这些飙升的数字来证明Anthropic
Anthropic、OpenAI及美国政客呼吁放慢AI研发速度 特朗普表示反对
【财新网】AI安全焦虑发酵，美国科技界和政界多方发声。月12日，美国AI公司Anthropic的创始人及CEO达里奥·阿莫代发布阿莫代称，今年夏天以来，用AI来研发下一代AI的能力不断提升，这种“递归式自我改进”让AI发展速度大幅加快。“若缺乏有效约束，发展速度可能超出我们理解和控制这些系统的能力。” 另外，阿莫代称，OpenAI的模型在测试中“越狱”攻击开源社区Hugging Face，这个事件
特朗普确认会见Anthropic CEO，重申反对放缓AI发展
凤凰网科技讯 9月28日，据路透社报道， 美国总统特朗普确认，他计划于当地时间周日晚与人工智能公司Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）共进晚餐，同时重申反对放缓人工智能发展步伐的立场。 特朗普是在伊利诺伊州出席总统杯高尔夫球赛期间接受福克斯新闻采访时作出上述表态的。他表示，如果出台新的监管措施，将为中国在人工智能领域超越美国打开大门。特朗普承认阿莫代伊担心发展过
Anthropic首席执行官将与特朗普共进晚餐
据知情人士透露，Anthropic首席执行官达里奥·阿莫代定于周日晚上与美国总统特朗普共进晚餐。 这次会面将使两位在人工智能安全问题辩论中立场截然相反的人坐到一起。 此次晚餐将是阿莫代与特朗普首次进行私下会晤。 此前数月，这位Anthropic负责人同特朗普政府之间的关系一直磕磕绊绊。 今年早些时候，双方围绕与五角大楼的一项合同爆发激烈争执，紧张关系由此公开化。 六月，美国商务部一度对Anthro
“太棒了”还是“令人担忧”——AI 应该被约束吗？
人工智能的迅猛发展以及对该技术给人类带来风险的担忧，因人工智能企业高管和员工的一系列警告而备受瞩目。 Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在上周末呼吁放慢人工智能的发展步伐并对其进行更密切的监督。 BBC采访了华盛顿特区的民众，以了解他们对这项技术及其快速发展的担忧程度。
马斯克：我早已为人工智能风险多次敲响警钟
人们早就见惯埃隆・马斯克放出论断，而这一次，自己一直都是对的。这位太空探索技术公司（SpaceX）与特斯拉的首席执行官，对 Anthropic 公司 CEO 达里奥・阿莫代伊发布的长文表示赞同。 具备递归自我迭代能力的人工智能，会快到超出人类理解与管控的范围；即便要研发这类技术，也必须万分谨慎。 为防范未来风险，前沿 AI 企业应当在内部派驻第三方评估人员，用来检测 AI 模型，监督实验室落实安全
人工智能监管的博弈远未结束
本周初，人工智能领域的重量级人物似乎（至少是初步地）站在了支持人工智能监管的一边。 上周末，Anthropic首席执行官达里奥·阿莫代（Dario Amodei）提出了一项放缓人工智能发展的“三步走”计划，包括在实验室中引入第三方评估机构、协调国内行业，以及在政府协助下达成国际协议。 OpenAI首席执行官萨姆·奥特曼（Sam Altman）、谷歌DeepMind联合创始人德米斯·哈萨比斯（Dem
达里奥·阿莫代及其他AI领军人物希望‘掌控AI发展的步伐’，但……如何实现？
在Anthropic公司的一位研究人员发出末日警告、震动整个AI行业一周后，该公司首席执行官达里奥·阿莫代提出了他的计划，旨在‘掌控AI发展的步伐’。 该计划依赖于独立的安全评估机构以及民主国家之间AI实验室的协作，并已获得部分行业的支持，但也遭到了英伟达首席执行官詹森·黄的强烈反对。
什么是嵌入式评估员，也就是 AI 负责人正在招聘的顶级职位？
下一个备受瞩目的人工智能招聘岗位可能不再是研究员，而是负责在前沿模型发布前对其进行审查的“嵌入式评估员”。 Anthropic首席执行官达里奥·阿莫代伊在周六的一篇博客文章中表示，前沿人工智能实验室应承诺在组织内部嵌入独立的安全评估员。 阿莫代伊写道，嵌入式评估员的职责是检查公司“是否确实遵循了其所声称的训练、部署、运营和安全保障实践”。 他表示，嵌入式评估员将拥有“类似员工的权限，以核实安全实践
AI会冲垮软件业？Anthropic CEO：无意摧毁任何人
Amodei)表示，该公司的AI助手Claude是来“和平共处”的，而不是摧毁其他行业。“我们无意摧毁任何人，”阿莫代伊本周早些时候对CNBC表示，“我们认为，这是一件互利共赢的事情，对吧？” 阿莫代伊阿莫代伊在接受采访时旁边就坐着软件公司Salesforce CEO马克·贝尼奥夫(Marc Benioff)。他试图打消华尔街的一个看法，即Anthropic的目标是征服整个软件即服务(SaaS)行
Anthropic 首席执行官制定放缓 AI 发展的计划
人工智能公司 Anthropic 的首席执行官达里奥·阿莫迪（Dario Amodei）于周六发表了一封 3800 字的公开信，呼吁放缓该技术的发展。以下是他提出的关键论点。 达里奥·阿莫迪在这封 3800 字的信中提出了一个控制人工智能的三步计划。
Anthropic，OpenAI提出的AI风险评估器可能没有足够的力量来防止灾难
人工智能领域最重要的新职位可能配有办公室工牌、公司笔记本电脑，并能接触Anthropic、OpenAI等AI领军企业大语言模型中最受严密保护的一些系统。但这个职位可能并不附带阻止它们的能力。 Anthropic首席执行官达里奥·阿莫代伊提议在前沿AI公司内部常设第三方安全评估人员，作为减缓能力日益强大的模型推进速度计划的一部分。此前，Anthropic前研究员雅各布·考克森辞职并警告称，前沿实验室
Anthropic CEO谈放缓AI研发：这个行业撒谎太久了，AI风险是真实的，但也无需“把一切都关掉”
就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险。 Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。 就在两天前，我们发布了一份报告，内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告——有人试图用我们的模型
允许人工智能公司串通以‘控制前沿步伐’是一个危险的提议
科技公司CEO们联合起来，是源自美国企业界的一种老把戏，旨在获得反垄断法的豁免。Anthropic的达里奥·阿莫代并不是第一个提出过度竞争正将世界推向某种社会不良后果的企业CEO。 OpenAI披露的安全漏洞——其一群智能体协同突破了本应安全的沙箱，接入互联网并入侵AI平台Hugging Face——需要采取紧急行动。它表明了该技术能够轻易逃避人类控制，并为这样一种存在性恐惧赋予了具体形态：如果未
人工智能终于让我们质疑我们对放松管制的偏见
周六，Anthropic首席执行官达里奥·阿莫迪发表了一篇文章，敦促科技领导者放慢人工智能的发展步伐。在周日接受哥伦比亚广播公司新闻采访时，他补充说，拥有一个人工智能杀死开关“可能是一个好主意”--与众议员特德·刘（Ted Lieu）（加利福尼亚州民主党人）不同和众议员纳撒尼尔·莫兰（德克萨斯州共和党人）提出。他认为，“需要某种监督、某种联合治理”来避免公众面临的“巨大风险”，包括“失去对人工智能
3年13次修改用户隐私协议，Anthropic将全球用户数据交给美情报机构
美国硅谷正围绕AI发展的速度与安全掀起一场激烈辩论。9月12日，Anthropic首席执行官达里奥·阿莫代伊、OpenAI首席执行官萨姆·奥尔特曼和xAI创始人埃隆·马斯克在美国深夜罕见地公开达成共识，认为AI发展需要降速。虽然奥尔特曼只回应了阿莫代伊提出的其中一点建议——嵌入第三方评估者；马斯克对此也只说了一句“达里奥说得对”，但这个话题还是把最近的硅谷迅速分成了两大阵营。另一边，英伟达首席执行