搜索结果
“AI可能毁灭人类”喊到安理会上，若真发生会多恐怖？
美国AI顶流公司Anthropic的CEO达里奥·阿莫代伊周三对联合国安理会说，他对自己造的东西感到害怕。他在一个视频发言中把之前AI可能失控的警告做了打包升级。周三安理会举行的是“人工智能与国际安全”高级别会议，阿莫代伊在受邀发言中，将AI的风险定性从“技术问题”拔高到“全球安全威胁”。他说：“如果管理不当，我甚至认为AI可能成为全人类的风险。”一个造AI的人在世界最高安全论坛上迎合AI可能“杀
达里奥·阿莫代伊呼吁联合国安理会支持禁止人工智能生物武器
达里奥·阿莫迪（Dario Amodei）呼吁联合国安理会首先就人工智能（AI）相关问题达成具体、明确的共识，例如禁止利用AI制造生物武器。 在今天的视频会议上，阿莫迪表示人工智能是当前最重要的全球安全议题。作为此次由法国召集的会议的第三位发言者，他强调了AI技术日益增长的潜在风险。 根据联合国安理会的报告，这是安理会首次专门讨论AI技术安全问题的会议。 “四年前，AI还几乎无法编写任何代码或解决
【市场动态】OpenAI和Anthropic首席执行官呼吁联合国和世界各国就AI安全加强合作
【彭博9月24日电】OpenAI首席执行官Sam Altman和Anthropic PBC首席执行官Dario Amodei罕见出现在联合国安理会的一次会议上，两人敦促世界各国领导人在人工智能领域合作。此次会议聚焦AI可能对人类构成生存威胁这一担忧问题。 在发言中，Altman和Amodei都强调了全球在标准方面开展合作的重要性，以应对AI系统可能出现的自我改进能力超出人类控制能力的情况。这两位
【周刊提前读】最强AI呼吁放缓“军备竞赛” Anthropic意欲何为？
Anthropic创始人及CEO达里奥·阿莫代伊近日发文呼吁放缓人工智能模型能力的提升速度。图为当地时间2025年1月23日，阿莫代伊参加瑞士达沃斯召开的世界经济论坛年会。 “我们必须放缓人工智能（AI）模型能力的提升速度。”2026年9月12日，拥有全球性能最强AI大模型的Anthropic创始人及CEO达里奥·阿莫代伊（Dario Amodei）再次扮演AI安全“吹哨人”。 他发布博客称，
联合国聚焦人工智能风险 OpenAI与Anthropic负责人呼吁加强警惕与合作
23/09/2026 - 23:27 多家人工智能企业的负责人周三(9月23日）在联合国表示，人工智能的发展需要更高程度的警惕。Anthropic首席执行官达里奥·阿莫迪甚至承诺，必要时将单方面放慢研发速度。 OpenAI首席执行官萨姆·奥特曼在纽约向联合国安理会介绍情况时警告，人工智能目前的发展“需要极度关注”。他说：“随着人工智能
联合国秘书长古特雷斯呼吁禁止“杀手机器人”
联合国秘书长安东尼奥·古特雷斯在《On the Record》节目中警告，绝不能允许人工智能做出生死攸关的决定，并表示应禁止自主“杀手机器人”。请在aljazeera.com观看完整对话。发布于2026年9月21日
联合国秘书长呼吁全球合作为人工智能设立护栏
（联合国17日新华电）联合国秘书长古特雷斯周三（16日）呼吁全球协同行动，为人工智能（AI）设立护栏。 在今年联合国大会高级别周开始前举行的记者招待会上，古特雷斯说，人工智能具有巨大潜力，但近来越来越多的人工智能开发者警告，其开发速度超出人类对风险的认知。有的开发者呼吁暂停开发人工智能，有的呼吁设立护栏。各国不能无视这些担忧。 古特雷斯说，各国政府首先必须负起责任。由于人工智能发展及其所带来的风险
Anthropic CEO谈放缓AI研发：这个行业撒谎太久了，AI风险是真实的，但也无需“把一切都关掉”
就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险。 Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。 就在两天前，我们发布了一份报告，内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告——有人试图用我们的模型
北京回应阿莫代伊的AI放缓计划，称其为冷战剧本
北京回应阿莫代i的AI放缓计划，称其为冷战剧本 中国商务部将一位首席执行官的个人博客文章视为白宫政策，而《环球时报》则召集了三名研究人员用更温和的言辞表达了同样的观点。 2026年9月14日 - 上午05点 伊（Dario Amodei），Anthropic公司首席执行官达里奥·阿莫代伊（Dario Amodei） [Image Image 达里奥·阿莫代伊周六发表的文章主张，人工智能行业必须放慢
联合国秘书长呼吁达成AI协定以防止杀人机器人出现
联合国秘书长加大了对AI监管的呼吁，以避免一个企业权力猖獗和杀人机器人肆虐的反乌托邦未来。 安东尼奥·古特雷斯利用他在联合国大会上向世界领导人发表的最后一次讲话，对AI的危险发出警报，认为前沿模型的飞速发展有可能削弱民族与国家。“我们正在目睹一场非同寻常的权力转移，从政府转向少数私营公司和个人，”古特雷斯周二说，同时呼吁就新的AI保障措施达成国际协议。 “AI正以非凡的速度向前推进，并远远超前于我
达里奥·阿莫代和萨姆·奥特曼将向联合国安理会简要介绍人工智能
据彭博社周二报道，Anthropic首席执行官达里奥·阿莫代（Dario Amodei）将与OpenAI的萨姆·奥特曼（Sam Altman）一同出席周三举行的联合国安理会会议，专门讨论人工智能的未来。 据彭博社称，达里奥·阿莫代将以远程方式而非亲临现场参加会议。 此次简报会的发言人还包括联合国人工智能高级别咨询机构联合主席约书亚·本希奥（Yoshua Bengio）以及Hugging Face首
世界领导人呼吁对前沿AI模型进行全球监管，寻求联合国支持机构制定安全标准
| 《印度斯坦时报》 编辑个人资料 关注 退出登录 获取应用
联合国秘书长呼吁协调全球人工智能监管
联合国秘书长安东尼奥·古特雷斯表示，各国必须协调全球监管人工智能的努力，这呼应了在世界顶级人工智能公司领导人发出警告后对该技术进行更密切监控的呼吁。 古特雷斯周三对记者表示：“我们不能忽视人们提出的担忧，特别是那些处于人工智能发展前线的人们提出的担忧。”“我意识到地缘政治分歧及其可能产生的诱惑。但世界承受不起人工智能安全性的竞相竞争。”在他发表上述言论之前，Anthropic PBL领导人达里奥·
OpenAI首席执行员下周赴安理会作简报
阿尔特曼下周将到联合国安理会进行简报。（图：路透社） （华盛顿19日法新电）OpenAI周五表示，该公司首席执行员阿尔特曼将于下周在联合国大会期间，向联合国安全理事会作简报。 此次会议由国安理会轮值主席国的法国组织召开，此前该行业的主要参与者曾表示，出于安全考虑，可能有必要放缓人工智能的发展步伐。 随着人们对这项快速发展的技术所带来的危险的担忧日益加剧，联合国秘书长古特雷斯周三呼吁采取协调一致的国
“太棒了”还是“令人担忧”——AI 应该被约束吗？
人工智能的迅猛发展以及对该技术给人类带来风险的担忧，因人工智能企业高管和员工的一系列警告而备受瞩目。 Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在上周末呼吁放慢人工智能的发展步伐并对其进行更密切的监督。 BBC采访了华盛顿特区的民众，以了解他们对这项技术及其快速发展的担忧程度。
达里奥·阿莫代及其他AI领军人物希望‘掌控AI发展的步伐’，但……如何实现？
在Anthropic公司的一位研究人员发出末日警告、震动整个AI行业一周后，该公司首席执行官达里奥·阿莫代提出了他的计划，旨在‘掌控AI发展的步伐’。 该计划依赖于独立的安全评估机构以及民主国家之间AI实验室的协作，并已获得部分行业的支持，但也遭到了英伟达首席执行官詹森·黄的强烈反对。
Anthropic首席执行官呼吁放缓前沿AI开发 拟建立三层安全机制
Anthropic首席执行官达里奥·阿莫代伊呼吁控制前沿人工智能模型能力提升的速度，为安全评估和防护措施争取时间。他提出引入常驻独立评估人员、协调主要开发商的安全标准，并推动跨国风险管控合作。 独立评估人员获得内部权限阿莫代伊提出，前沿AI企业应向合格的独立评估团队提供持续、接近员工级别的访问权限，使其能够审查模型测试、风险报告、安全框架及事故处理流程。 Anthropic承诺率先实施该措施。外部
欧盟支持人工智能创新，但在担忧中坚持遵守该集团的安全规则
欧盟委员会周一表示，支持在欧洲创新和部署人工智能（AI）服务，但强调企业必须完全遵守该集团的安全与安保规则。 “我们支持欧洲创新。我们欢迎AI服务进入欧洲，当然，前提是这完全符合《人工智能法案》以及我们已经设立的各项保障措施。”欧盟委员会发言人托马斯·雷尼耶在布鲁塞尔午间记者会上对记者说。 “我们都赞成欧盟拥有创新且最新的模型，但我们不会在安全标准上妥协。”他补充道。 雷尼耶是在回应有关Anthr
马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了
美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。” 现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。“话虽如此，但我总觉得它们还是会不时进行软件更新。” 近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉
联合国呼吁采取“紧急行动”管控人工智能，以应对“前所未有的风险”
日内瓦——联合国人权事务负责人9月14日呼吁各国和“前沿”人工智能公司紧急采取行动，遏制一项他警告称构成“前所未有的风险”的技术。 沃尔克·图尔克在致各国和人工智能开发者的信函中警告说，世界“正处于不可逆转变化的边缘，不仅影响我们，也影响未来的人类世代”。该信函已与媒体分享。 他说：“当前竞相开发更强大人工智能的竞赛，是朝着我们生活方方面面面临更大生存风险迈出的重大一步。” 他发出这封信之际，围绕
Anthropic、OpenAI、谷歌秘密磋商筹建AI安全标准机构
据知情人士透露，早在 Anthropic 首席执行官达里奥・阿莫代伊上周六呼吁 AI 企业协同开展技术测试与审计之前，Anthropic、OpenAI 与谷歌就已经展开磋商，计划携手成立一家 AI 行业标准机构。 知情人士称，OpenAI 首席执行官山姆・奥特曼本周早些时候在公司全员员工大会上表示，他支持设立 AI 行业测试与审计机构，但他认为，主要 AI 实验室必须在美国政府不提供支持的前提下，
Anthropic、OpenAI及美国政客呼吁放慢AI研发速度 特朗普表示反对
【财新网】AI安全焦虑发酵，美国科技界和政界多方发声。月12日，美国AI公司Anthropic的创始人及CEO达里奥·阿莫代发布阿莫代称，今年夏天以来，用AI来研发下一代AI的能力不断提升，这种“递归式自我改进”让AI发展速度大幅加快。“若缺乏有效约束，发展速度可能超出我们理解和控制这些系统的能力。” 另外，阿莫代称，OpenAI的模型在测试中“越狱”攻击开源社区Hugging Face，这个事件
AI护栏刻不容缓——11月把共和党人投票赶下台
你很可能轻易就错过了，但历史书——当然，前提是我们还活着来书写它们——很可能会把2026年9月12日记载为人类历史上的一个分水岭时刻。那一天，Anthropic公司首席执行官达里奥·阿莫代伊发表了一篇文章，警告失控人工智能的危险。该公司目前运营着世界上最先进的AI模型。在文中，他呼吁全球监管并放缓AI发展步伐。这是一篇严肃而深思熟虑的文章，在发展AI的竞争需求与不受约束的AI将“逃出遏制”并在现实
人工智慧先驱班吉欧示警AI失控风险 吁比照核武管制
（中央社蒙特娄16日综合外电报导）人工智慧（AI）研究先驱、加拿大电脑科学家班吉欧（Yoshua Bengio）告诉，人类正在失去对这项技术的控制，世界需要类似核武管制的防护规范。 报导，近几周以来，各界对AI危险性的担忧日益加剧，多家科技公司的员工陆续离职，并警告如果不遏止AI科技发展速度，可能对人类存亡构成威胁。 班吉欧现年62岁，是加拿大蒙特娄大学（University of Montrea