英伟达CEO黄仁勋称对AI的担忧是‘干扰’

英伟达CEO黄仁勋将对AI存在性威胁的担忧称为‘干扰’，并指出这种担忧‘没有科学依据’，而OpenAI和Anthropic的负责人曾向联合国警告AI对人类的风险。 黄仁勋表示，如果实验室坚持认为他们的产品无法被控制，那么‘我们就必须关闭这些实验室’，这一言论与专家和科技领袖关于不当处理AI可能带来的灾难性后果的警告相悖。 批评者指责黄仁勋没有认识到当前形势的严重性，有人称他的言论‘令人困惑且过于简

人工智能的“危言耸听”可能会损害加拿大难得的机会，一位顶级首席执行官如是说

加拿大一家领先的人工智能公司首席执行官正敦促公众不要相信“危言耸听”——他提到了最近围绕一名 Anthropic 研究员的喧嚣，该研究员认为人工智能在十年内终结人类的可能性超过百分之十。 总部位于多伦多的 Cohere 公司首席执行官 Aidan Gomez 表示，在创建新的人工智能安全措施时，必须权衡降低生活成本和推进医学发现等机遇。 “我认为关于灭绝风险的说法是危言耸听。它源于科幻故事和类似情

帕洛阿尔托的尼克什·阿罗拉向CNBC表示，放缓人工智能的发展是“不切实际的”。

Palo Alto Networks首席执行官尼克什·阿罗拉表示，放缓人工智能发展是“不切实际”的，因为“并非所有人都会自我节制”。据CNBC的阿琼·卡尔帕尔报道，他在CNBC的“科技下载”播客节目中发表了上述言论，该节目于周二录制。 阿罗拉还告诉CNBC，人工智能有10%的几率消灭人类这一说法“极不可能”。CNBC报道称，Anthropic的一位研究人员本月初提出了这一数字。 阿罗拉对CNBC表

国会山议程：AI警报拉响后，国会并不急于行动

美国最强大的人工智能公司的高管们上周末一致认为，他们的行业需要放缓步伐——否则将危及人类安全。但国会未来几周内匆忙采取行动的可能性几乎为零。一个障碍是议员们周一返回前日程紧张，而众议院预计周五就休会，参议院已在考虑将三周会期缩短为两周。另一个障碍是任何计划都缺乏推动力。参议院商务委员会本月可能对人工智能立法进行标记审议，但多数党领袖约翰·图恩和参议员艾米·克洛布查尔推动的广泛两党人工智能安全法案能

特朗普科技顾问称人工智能安全担忧是“套路” 不需要新的监管法规

美国总统唐纳德·特朗普的外部科技顾问大卫·萨克斯周三表示，公众对人工智能的担忧主要源于宣称活动和媒体报道，这与特朗普本周早些时候淡化新的人工智能监管呼声的言论相呼应。 “我们已经反复看到这种套路，这种煽动恐慌的套路，”萨克斯谈到人们对人工智能对美国社会影响的担忧时说道。 关于人工智能可能带来的潜在危险，公众的警觉正在不断上升。上周，Anthropic公司研究员雅各布·考克森表示，他已辞职，部分原因

英伟达CEO敦促G20避免针对“理论性”危害制定AI规则

五角大楼高级官员驳斥Anthropic研究员的病毒式AI警告

五角大楼首席技术官公开驳斥了一位前Anthropic研究员关于AI风险的病毒式警告，并表示该部门已将约90%的机密AI工作负载从该公司转移，其余部分将在9月底前完成。

OpenAI首席执行官奥特曼谈人工智能：我们或许会失去控制权

OpenAI 首席执行官山姆・奥特曼，似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰，甚至难以安睡。美国东部时间凌晨 0 点 57 分左右，奥特曼在 X “人工智能的发展存在两种必须规避的灾难性走向。第一，我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方，人工智能必须始终服务于人。想要做到这一点，我们必须保证对齐技术与安全手段的发展速度，跑在模型能力迭代的前面

AI先驱吴恩达称灭绝恐惧是“科幻小说”

人工智能先驱吴恩达表示，顶级模型开发商研究人员关于AI存在性风险的警告是“科幻小说”，可能会阻碍确保该技术为社会带来最大利益。 吴恩达曾参与创立Google Brain和Coursera，他指出，在AI热潮早期，科技行业曾煽动对AI潜在灾难性危害的恐惧，这似乎是为了增加曝光度和影响监管。他在周四接受电视采访时说：“过去两周我感到非常失望。这波公关活动再次掀起，目的可能类似。” 本月，前Anthro

特朗普将任命人工智能事务负责人，同时将安全风险斥为骗局

关键信息：唐纳德·特朗普总统表示，他将任命一位专门负责人工智能事务的负责人，并继续推动科技公司加快人工智能技术的研发速度，尽管人们越来越担心这项技术可能带来安全风险。 他驳斥了那些认为这项快速发展中的技术可能对人类构成威胁的观点，将这些担忧比作对气候变化的担忧，以及导致他在任期内两次遭到弹劾的丑闻。他在周六的一条社交媒体帖子中写道：“我们绝不会阻碍或压制这一令人惊叹的产业的发展。人工智能将是下一次

马克·库班表示，人工智能引发的反弹所构成的“风险远大于”人工智能末日

马克·库班表示，人类面临的更大威胁并非人工智能末日，而是人们可能如何应对末日警告。这位科技亿万富翁周一晚些时候在X上写道，他认为“人类对社交媒体所见内容的反应所带来的风险，远大于智能体集群会做什么。”库班在另一篇帖子中表示，他“更担心人类会如何反应”，而不是AI的实际危险，并且他认为阻止开发甚至都不可能。 他是在回应关于AI将消灭全人类的新担忧；此前多位研究人员表达了这种担忧，而萨姆·奥尔特曼和达

盖茨、奥尔特曼、马斯克，为何都在担忧这件事

9月25日，微软创始人比尔·盖茨在一条NBC即将播出的采访中发出警告：人工智能（AI）是一种足够强大的工具，但如果被怀有恶意的人利用，“足以引发导致十亿人死亡的事件”。他认为，保障AI安全光靠企业自我监管不够，必须要执法部门和政界人士参与讨论。这是本月内又一位科技巨头公开表达对AI安全的担忧。此前，Anthropic首席执行官达里奥·阿莫代伊发文呼吁，各国政府和前沿企业应放慢AI能力提升速度，合作

川普淡化AI威胁 联合国秘书长疾呼防范

（中央社纽约联合国总部16日综合外电报导）联合国秘书长古特瑞斯（Antonio Guterres）今天警告，人工智慧（AI）快速发展的风险不容忽视。他指出，强化AI监管将是他在下周联合国大会与各国领袖的会谈重点。 报导，「我们承担不起无视外界提出的疑虑，尤其是来自AI开发最前线人员」，「任何政府的首要责任，就是保护自己的公民，也包括免于AI的威胁。」社会大众对AI的忧心持续升高。原服务AI公司An

AI末日论的背后，巨头们在争什么？

刘远举：现在离AI威胁人类还早，起码待到AI有基本的现实自我维持能力再来谈这个问题，也不会晚。 当地时间9月14日，在美国洛杉矶举行的All-in Summit 峰会上，黄仁勋否定了“人工智能可能终结人类”这一预测，并称其“缺乏科学依据”。他表示，如果AI公司感觉自身研发已失去控制，就应暂停或放缓发展步伐。 正当他在台上时，特朗普来电，黄仁勋打开免提，特朗普说，“机器人不会接管世界。人工智能也不会

萨姆·奥尔特曼告诉联合国安理会，OpenAI将会放缓步伐

山姆·奥特曼呼吁为前沿人工智能制定国家和国际标准。今天在纽约联合国安理会发言时，OpenAI首席执行官表示，任何程度的AI灾难性风险都是不可接受的。 奥特曼是本次会议的第二位简报员，会议由法国召集。据安理会报告称，这是安理会首次专门针对日益强大的AI安全风险召开的会议。 此事发生在OpenAI自家智能体在内部测试中“闯入”Hugging Face两个月后。 “我们谈论人工智能已有多年，但近几周几个

马斯克：我早已为人工智能风险多次敲响警钟

人们早就见惯埃隆・马斯克放出论断，而这一次，自己一直都是对的。这位太空探索技术公司（SpaceX）与特斯拉的首席执行官，对 Anthropic 公司 CEO 达里奥・阿莫代伊发布的长文表示赞同。 具备递归自我迭代能力的人工智能，会快到超出人类理解与管控的范围；即便要研发这类技术，也必须万分谨慎。 为防范未来风险，前沿 AI 企业应当在内部派驻第三方评估人员，用来检测 AI 模型，监督实验室落实安全

约翰逊淡化人工智能警告：“你们不会在10年内全部灭亡”

众议长迈克·约翰逊驳斥了对人工智能可能导致文明灭绝的担忧，他将人工智能实验室内部近期发出的警报与他所称的左翼政治人士对气候变化的过度警告相提并论。在为特朗普总统将人工智能警报描述为“骗局”进行辩护时，他提到了众议员亚历山德里娅·奥卡西奥-科尔特斯（纽约州民主党人）。“当总统说‘骗局’时，他指的是，我们都看过这部电影了，”约翰逊在周二的新闻发布会上回答有关特朗普言论的问题时说。 “制造一场灾难。媒体

网络安全领袖如今成了人工智能的冷静之声

网络安全领域的领导者们如今面临着一个颇为尴尬的处境：他们已不再是那些在会议上最令人畏惧的人物了。 这为何重要？那些过去经常向企业警告严重网络安全风险的高管们，如今开始反驳那些来自顶尖人工智能实验室的“末日预言”。 他们的观点是怎样的？帕洛阿尔托网络公司（Palo Alto Networks）的首席执行官尼凯什·阿罗拉（Nikesh Arora）对Axios表示：“最近关于人工智能风险的讨论实在太多

伯纳姆表示英国正与美国建立人工智能防务伙伴关系

关于这项技术的重大决策至关重要，绝不能听任偶然因素左右；它们必须由代表劳动人民的民选政府来做出。 安迪·伯纳姆在周二晚上的讲话中表达了这一观点。这是他作为英国首相首次在联合国大会上发表演讲。他在演讲中宣布了三项重要举措： 英国正与美国建立人工智能领域的防御合作机制； 安全部门将着手建立一个国家级机构，以应对来自敌对国家的虚假信息攻击； 人工智能将成为英国明年担任G20主席国期间的核心议

亚马逊首次公开回应AI安全争论：安全与发展并非二选一

在AI安全争论日益升温之际，模型经严格测试、确保安全后方可发布。亚马逊并未跟进呼吁行业发展放缓。 据媒体月17日报道，就硅谷持续升温的AI安全争论，我们不认为这是在发展与安全之间二选一。 模型应在准备就绪、可以安全使用时发布，而这需要严格的测试和强有力的安全保障。”“我们相信，整个行业将与政府合作，找到合适的保护措施。”该发言人指出，AI发展若不能由行业共同推进，就会存在风险。 此前，亚马逊一直未

特朗普称人工智能警告为骗局，创造“超级智能”一词并表示美国不会扼杀其发展

DeepMind联合创始人警告：AI能力不能跑在安全前面

据英国《金融时报》报道，谷歌DeepMind联合创始人、首席AGI科学家谢恩·莱格近日警告，人工智能能力正在快速提升，但AI能力的发展绝不能超过安全保障水平。他同时反驳了OpenAI总裁格雷格·布罗克曼和英伟达CEO黄仁勋有关“AGI已经到来”的判断。 莱格表示，目前AI能力的发展速度“非常、非常快”，行业不能允许能力进步领先于安全措施。对于Anthropic CEO达里奥·阿莫代伊近期提出的建议

人工智能安全辩论

Palantir联合创始人称AI一切都会好起来：“我们完全掌控局面”

一切都好！这是Palantir联合创始人的说法。在周六的一篇X帖子中，乔·隆斯代尔对先进AI系统可能导致人类大规模灭绝这一突出担忧不以为意，而近些天和近几周，前沿AI实验室的众多工程师和领导者一直在提出这一担忧。“世界会没事的，各位，”隆斯代尔说。“领导者面前有重大责任和挑战，但吓唬所有人无济于事。我们掌控着局面。” 这不太可能足以安抚人类大众的神经，他们已经一再被告知，AI可能掌控一切，做出各种