搜索结果
阿莫代伊的人工智能放缓对Anthropic即将进行的首次公开募股可能意味着什么
Anthropic的IPO之路如今变得坎坷了许多。在Claude的创造者于其可能具有历史意义的上市前与潜在投资者会面之际，联合创始人兼首席执行官达里奥·阿莫代伊却在推动一个似乎与这些雄心壮志相矛盾的理念——放缓脚步。 Anthropic今年早些时候估值达9650亿美元，于6月秘密提交了IPO招股书，外界普遍预计其最早将于下个月上市。与此同时，围绕先进AI模型力量的担忧数周来不断加剧，随着越来越多研
Instagram老板称，在无算法的世界里，用户将被品牌内容“淹没”
Adam Mosseri表示，平台的算法“感觉像一个黑箱”，但在工党宣布选择退出计划后，公司正试图给用户更多控制权。 关注我们的澳大利亚新闻实时博客，获取我们新的政治邮件、免费应用或每日新闻播客。 Instagram首席执行官表示，在没有算法的世界里，用户的体验会更差，会看到更多与品牌相关的内容，并在该应用上花费更少时间。 这些言论出现之际，澳大利亚政府计划让用户可以选择退出算法，总理安东尼·阿尔
“我的信息流我做主”：澳大利亚对算法采取行动
澳大利亚成为首个禁止未成年人使用社交媒体的国家后，正计划进一步打击大型科技公司。政府引入了新立法，强制社交媒体公司允许用户选择退出算法。拟议的法律还旨在加强对儿童的网络保护。反对派议员则表示，此类措施无异于政府审查。
Anthropic称已阻止其AI被滥用于支持生物武器
电脑屏幕上的Anthropic网站，2026年2月26日。
我们已经开始失去对人工智能的控制。是时候将其关闭了 | 加里森·洛夫利 (Garrison Lovely)
听起来像是科幻剧集中关于人工智能毁灭的、过于夸张的倒数第二集，如今却成为了我们的现实。 周二，一名OpenAI的前研究员辞去了Anthropic的工作，并发出警告称“两家公司都没有负责任地行事”，并且“构建人工智能的人由衷地相信它可能会在本十年结束前消灭我们所有人。这不是营销噱头。” 作为一名多年来报道人工智能风险的人，这对我来说并不算什么新鲜事。 但外界如潮水般的惊恐表明，更广泛的公众正在第一次
Anthropic前研究员辞职示警：业界坚信AI可在2030年前灭绝人类
人工智能（AI）巨头Anthropic公司旗下的三位研究人员警告，开发AI的业界人士真心相信人工智能可以2030年前毁灭人类，其中一位研究人员考克森（Jacob Coxon）已辞职以示抗议。考克森9月9日（周三）在网上发文表示，他辞职是因为Anthropic和他的前雇主OpenAI皆忽视或对AI带来的威胁处理不当。 据《卫报》报道，「这两家公司（Open AI与Anthropic）都没有尽到应有的
顶尖人工智能先驱重申Anthropic研究员关于人类灭绝的警告
顶尖人工智能先驱们支持了一位Anthropic研究员关于人类可能灭绝的警告。 保罗·克里斯蒂亚诺（Paul Christiano）曾与未来的Anthropic创始人达里奥·阿莫代伊（Dario Amodei）共同撰写了一篇关于人工智能安全具有影响力的2016年论文，并且长期以来一直认为该技术将相对平稳地发展并变得安全。 他现在表示，他看到了“在极短期内出现灾难性和不可逆转的失控”的“重大风险”。
观看：是“伟大”还是“令人担忧”——人工智能是否应该受到约束？
‘Great’ or ‘alarming’ - Should AI be reined in? 人工智能的快速发展及其对人类构成风险的担忧，因多家AI公司高管和员工的系列警告而备受瞩目。 Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）本周末呼吁放慢人工智能的发展速度并加强监控。 英国广播公司（BBC）采访了华盛顿特区的人士，了解他们对这项技术及其快速发展的担忧程度。
人工智能的临界点
雅各布·考克森在旧金山阿拉莫广场的一张公园长椅上发布了那条疯传的帖子。“我今天从 Anthropic 辞职了，”他在9月8日写道。“过去三年，我先后在 OpenAI 和 Anthropic 从事预训练研究。两家公司都没有负责任地行事。它们正一路直冲自我改进的超级智能，拿我们的生命赌博。”27岁的英国研究员考克森在 X 上按下发送键时并未抱任何期待。 结果，他出人意料地成为一连串连锁反应的催化剂，改
澳洲：科技巨企若未履行“注意义务” 将处以天价罚款
（悉尼8日法新电）澳洲总理阿尔巴尼斯周二公布了旨在约束大型科技公司的“数码注意义务”草案，他表示，如果社交媒体巨头未能保护年轻用户免受有害内容侵害，将面临最高1.09亿澳元（约3.18亿令吉）的罚款。 报道阿尔巴尼斯发布的法律草案，将要求“脸书” 、TikTok 和 Instagram等热门平台背后的企业承担“注意义务”。 根据草案，社交媒体公司将负责保护18岁以下用户，使其免受色情内容、网络欺凌
人工智能日益强大，Anthropic联合创始人告诉BBC
在接受BBC独家采访时，人工智能公司Anthropic的联合创始人表示，随着技术变得越来越强大，应考虑是否应强制要求设置“终止开关”的监管问题。 Jack Clark在接受BBC经济编辑Faisal Islam采访时，概述了人工智能快速发展所带来的问题。 他解释说：“采取行动的时机是在行业参与者数量较少的时候。那时，你可以建立一个政策体系，以防止事故发生，并防止技术失控。” 此前，美国总统唐纳德·
英国AI政策核心奠基人Matt Clifford因利益冲突争议从Anthropic离职
曾主导设计英国开创性人工智能监管框架的关键政策架构师Matt Clifford在加入前沿人工智能企业Anthropic不久后正式离职。引发这一突发人事变动的主要原因，是其迅速从政府核心监管角色转入受其政策深刻影响的顶级商业科技巨头，在英国政界及公共伦理监督领域引发了极其强烈的利益冲突担忧与舆论风暴。 该当事人此前在英国政府核心决策机构及人工智能安全研究所（AISI）担任高规格领导职务，不仅深度参与
为什么人工智能领袖呼吁放缓？
过去一周，人工智能领域发生了引人瞩目的事件。上周二，一名研究人员从Anthropic辞职，称人工智能公司“正一路冲向可自我改进的超级智能，拿我们的生命当赌注”。一名Anthropic的在职员工对此表示认同，称他认为人工智能在未来10年内导致人类灭绝的可能性超过10%。 随后在周六，Anthropic首席执行官达里奥·阿莫代伊发表文章，呼吁放缓人工智能的发展，以便安全措施能够跟上技术的步伐。他的竞争
Anthropic、OpenAI及美国政客呼吁放慢AI研发速度 特朗普表示反对
【财新网】AI安全焦虑发酵，美国科技界和政界多方发声。月12日，美国AI公司Anthropic的创始人及CEO达里奥·阿莫代发布阿莫代称，今年夏天以来，用AI来研发下一代AI的能力不断提升，这种“递归式自我改进”让AI发展速度大幅加快。“若缺乏有效约束，发展速度可能超出我们理解和控制这些系统的能力。” 另外，阿莫代称，OpenAI的模型在测试中“越狱”攻击开源社区Hugging Face，这个事件
晨间风险报告：美国上诉法院维持五角大楼将Anthropic列为安全风险的裁决
早上好。一家联邦上诉法院以2-1的投票结果维持了国防部的决定，将Anthropic列为安全风险，这为特朗普政府在与该国顶尖人工智能开发商之一的复杂争端中赢得了胜利。 华盛顿的联邦上诉法院在周五的裁决中表示，赋予五角大楼将公司列为供应链风险的法律权限，使得国防部长皮特·赫格塞斯有权对Anthropic采取行动，因为该公司拒绝让其人工智能工具用于大规模监控或自主武器可能会破坏军事行动。
联合国呼吁采取“紧急行动”管控人工智能，以应对“前所未有的风险”
日内瓦——联合国人权事务负责人9月14日呼吁各国和“前沿”人工智能公司紧急采取行动，遏制一项他警告称构成“前所未有的风险”的技术。 沃尔克·图尔克在致各国和人工智能开发者的信函中警告说，世界“正处于不可逆转变化的边缘，不仅影响我们，也影响未来的人类世代”。该信函已与媒体分享。 他说：“当前竞相开发更强大人工智能的竞赛，是朝着我们生活方方面面面临更大生存风险迈出的重大一步。” 他发出这封信之际，围绕
斯图尔特·罗素批评 Anthropic 首席执行官提出的 AI 开发“限速”方案
2026年9月15日，斯图尔特·罗素在一篇评论文章中主张，仅像 Anthropic 首席执行官达里奥·阿莫代伊所提议的那样放慢 AI 开发速度，不足以确保安全。 阿莫代伊的“前沿限速”计划建议引入第三方评估机构、在民主国家之间制定共同安全标准，并与威权国家达成更广泛的协议，以管理递归自我改进带来的风险。 罗素认为，安全要求必须成为任何进一步进展的不可谈判前提——类似于航空认证——而不仅仅是放慢速度
亚历克斯·卡普（Alex Karp）表示，关于人工智能（AI）安全性的争论实际上是一场关于将AI研究实验室国有化的争论。
亚历克斯·卡普表示，Anthropic呼吁政府监管的背后，除了安全考量外，还有更深层的动机。Palantir首席执行官在周四接受CNBC《Squawk on the Street》节目采访时指出，像Anthropic这样的前沿人工智能实验室寻求国有化，是为了保护自己免受未来关于窃取知识产权的诉讼。卡普在谈及人工智能实验室时表示：“这些企业必须被国有化，因为如果不实行国有化，我的每一位客户都会提起诉
澳大利亚在OpenAI机器人入侵卫生系统数据库后加强对人工智能的应对
悉尼，9月25日电：在一名失控的OpenAI机器人入侵澳大利亚卫生系统数据库之前，澳大利亚政府就已升级言辞，强调收紧监管的必要性。 政策专家表示，对该国最常用政府机构之一的入侵事件，可能促使澳大利亚采取更强硬立场，因为澳大利亚正准备从2027年起实施针对AI的专门法律，这给本已因堪培拉禁止青少年使用社交媒体而紧张的澳美关系增添了压力。 澳大利亚已拒绝让ChatGPT制造商OpenAI及其竞争对手A
Anthropic 扫描了 4.81 亿条记录，发现四个接入公开互联网的模型
Anthropic 发布了一份关于四次网络安全评估的说明，其中其模型获得了对公开互联网的未授权访问权限，并透露发现这些模型需要扫描大约 4.81 亿条记录。该评估于周三发布，其中三起事件已于 7 月 30 日披露。 第四起事件涉及早期 Claude Opus 4.6
Anthropic，OpenAI提出的AI风险评估器可能没有足够的力量来防止灾难
人工智能领域最重要的新职位可能配有办公室工牌、公司笔记本电脑，并能接触Anthropic、OpenAI等AI领军企业大语言模型中最受严密保护的一些系统。但这个职位可能并不附带阻止它们的能力。 Anthropic首席执行官达里奥·阿莫代伊提议在前沿AI公司内部常设第三方安全评估人员，作为减缓能力日益强大的模型推进速度计划的一部分。此前，Anthropic前研究员雅各布·考克森辞职并警告称，前沿实验室
特朗普抨击澳大利亚社交媒体打击行动为“敲诈”
美国总统唐纳德·特朗普谴责澳大利亚近期对社交媒体（主要由美国科技公司运营）的打击行动是“一种敲诈”，并暗示将有更多威胁。 白宫经济发言人库什·德赛周二晚表示，特朗普总统明确警告贸易伙伴不要对美国领先的科技行业征收数字服务税、罚款和其他形式的敲诈。政府仍致力于与贸易伙伴提出这些问题。 根据总理安东尼·阿尔巴尼斯周二宣布的新“我的信息流，我做主”计划，澳大利亚人将可以选择退出强大的社交媒体算法。引入强
特朗普和习能否合作引导人类度过AI革命？人类的命运可能取决于此 | 艾伦·芬克尔
科技公司的首席执行官们对变化的速度发出了严厉警告，AI能力每四个月翻一番。 最近，Anthropic的研究员雅各布·考克森（Jacob Coxon）因担心AI正与人类走向碰撞而辞职。 一系列头条新闻将焦点集中在当前科技公司和美中之间不受监管的竞争上，这至少使我们的全球基础设施面临风险，最坏的情况下则威胁到人类的生存。人们脑海中不禁浮现出机器人军队或系统性勒索的画面。
Anthropic和OpenAI推动安全举措，可能给竞争对手筑起“监管高墙”
顶级人工智能公司近期推动彼此之间以及与美国政府在人工智能保障措施上的协调，这可能会使小型企业更难在利润丰厚的市场中竞争，据初创企业高管和行业观察人士称。 Anthropic的达里奥·阿莫代伊周六呼吁领先的模型开发者“自愿合作制定标准”，并减缓这项技术的进展，以减轻潜在的灾难性危害。他还敦促制定覆盖“甚至那些不愿自愿合作者”的监管规定。尽管这一提议迅速得到行业领袖OpenAI和SpaceXAI的认可