搜索结果
「AI研究人员呼吁紧急监管自我改进的AI系统」共 100 条 · 第 5 页
国会山报
AI护栏刻不容缓——11月把共和党人投票赶下台
你很可能轻易就错过了，但历史书——当然，前提是我们还活着来书写它们——很可能会把2026年9月12日记载为人类历史上的一个分水岭时刻。那一天，Anthropic公司首席执行官达里奥·阿莫代伊发表了一篇文章，警告失控人工智能的危险。该公司目前运营着世界上最先进的AI模型。在文中，他呼吁全球监管并放缓AI发展步伐。 这是一篇严肃而深思熟虑的文章，在发展AI的竞争需求与不受约束的AI将“逃出遏制”并在现
09/18
cnbeta
中美专家呼吁建立“核安全级”AI防护机制 防范超级人工智能失控风险
来自美国和中国的国家安全、科技政策及人工智能领域专家近日共同提出一项引人关注的建议，主张借鉴冷战时期核安全管理经验，为未来可能出现的高级人工智能系统建立类似核武器领域的安全保障机制，以降低技术失控、误判以及国际竞争升级所带来的风险。 这一建议出现在一份由两国专家共同参与讨论后形成的研究成果中。报告认为，随着人工智能能力持续快速提升，各国已经开始面对一些与核时代早期相似的问题，即一种具有巨大潜在影响
09/17
经济学人
人工智能灾难日益逼近
Anthropic、谷歌和OpenAI都对生物安全感到担忧。它们已制定保障措施，防止其系统被滥用，但这些限制并不完美。 唐纳德·特朗普下令联邦机构停止使用Anthropic的人工智能技术，同时要求该公司与政府合作六个月。
09/28
受限
全文见 美国全国公共广播电台
thenextweb
据The Information报道，Google、OpenAI和Anthropic计划成立AI安全机构
据The Information周四报道，Google、OpenAI和Anthropic计划建立自己的AI安全标准机构，不受政府监管。这三家公司希望在今年年底或2027年初推出该机构。 据知情人士向The Information的Leo Schwartz和Stephanie Palazzolo透露，他们暂定将其命名为“前沿AI标准局”。工作组成员已考虑多位知名人士担任首席执行官一职。TNW未独立核
09/28