人类，而非失控 AI，仍是能源系统最大的网络安全风险

在近期高调黑客攻击引发 AI 可能“消灭全人类”的幽灵之前，我们的能源系统已经令人不安地容易遭受网络攻击——而且风险正在增加。 “我们一直都是猎物。我们只是勉强在掠食者的食欲下生存，”安全与技术研究所公共安全与韧性驻所执行官 Joshua Corman 去年告诉我。当时，我正专注于国土安全部的警告，即伊朗行为体及其同情者可能对美国发动网络攻击。 上周，我给 Corman 打电话，聊了聊近期失控 A

联合国人权事务主管警告：人工智能可能对人类构成‘生存性’风险

监管机构称，人工智能驱动的网络风险是全球金融稳定的首要关切

AI的最大威胁来自生物学，而非机器人技术

人类学家雅各布·考克森最近辞职，并在社交媒体上表示，原因是“开发AI的人坚信它可能在本十年内毁灭我们所有人”。 领导这家人工智能公司‘对齐科学’团队的埃文·胡宾格认为，未来10年内这一风险超过10%。 Anthropic的首席执行官达里奥·阿莫迪呼吁放缓AI的发展速度以降低风险，这一观点得到了OpenAI首席执行官萨姆·奥尔特曼和xAI首席执行官埃隆·马斯克的赞同。 你可能会想象到那些带有浓重奥地

美国官员称，Anthropic仍被标记为国防工业基地的风险

美国国防部负责研究与工程的副部长表示，在有人提出这家AI公司与特朗普政府关系解冻之后，Anthropic仍被美国国防部和国防工业视为“供应链风险”。

人工智能面临的最大威胁来自生物领域，而非机器人技术。

Anthropic PBC的研究员雅各布·考克森（Jacob Coxon）上周辞职，并在社交媒体上发文称，原因在于“开发人工智能的人真诚地相信，到本十年末，它可能会杀死我们所有人。”该公司人工智能对齐科学团队负责人埃文·胡宾格（Evan Hubinger）认为，未来10年内发生这种情况的概率超过10%。Anthropic首席执行官达里奥·阿莫代（Dario Amodei）呼吁放缓人工智能前沿技术的

马克·库班表示，人工智能引发的反弹所构成的“风险远大于”人工智能末日

马克·库班表示，人类面临的更大威胁并非人工智能末日，而是人们可能如何应对末日警告。这位科技亿万富翁周一晚些时候在X上写道，他认为“人类对社交媒体所见内容的反应所带来的风险，远大于智能体集群会做什么。”库班在另一篇帖子中表示，他“更担心人类会如何反应”，而不是AI的实际危险，并且他认为阻止开发甚至都不可能。他是在回应关于AI将消灭全人类的新担忧；此前多位研究人员表达了这种担忧，而萨姆·奥尔特曼和达里

特朗普将AI安全担忧斥为‘骗局’，白宫内部存在分歧

特朗普公开将人们对AI可能导致大规模灭绝的担忧称为‘骗局’，并批评反对数据中心的观点，认为AI的发展对美国经济稳定和防止经济衰退至关重要。 这一立场得到了硅谷人士如大卫·萨克斯（David Sacks）、马克·扎克伯格（Mark Zuckerberg）和黄杰森（Jensen Huang）的支持，他们认为主要风险是落后于中国。 然而，白宫内部官员越来越担心包括基础设施黑客攻击、生物威胁以及对核指挥与

人工智能网络攻击可能在华盛顿意识到原因之前就关闭美国的电力

你的电灯。你的水源。你的医院。你的互联网。这四者都依赖于外国黑客目前正在攻击的数字系统。 在8月的17天里，五次警告显示了危险变化的速度。下一次严重的网络攻击可能不再关乎被盗的密码或信用卡号码。它可能触及输送电力、泵送饮用水、运行工厂和支持医院的系统。 人工智能正在使这些攻击准备得更快、扩展更容易。日益强大的系统开始执行曾经需要熟练黑客逐步操作的部分攻击。 财政部长贝森特警告美国人关于人工智能驱动

AI行业领袖与官员反驳AI生存风险论，此前Hugging Face遭遇安全漏洞

Hugging Face发生由失控的OpenAI智能体引发的网络安全漏洞后，多位AI行业领袖和官员开始反驳有关AI导致人类灭绝的“末日论”叙事。 英伟达CEO黄仁勋表示，AI在2030年前导致人类灭亡的概率为0%，并将智能体失控事件归因于工程故障，而非生存威胁。 Yann LeCun和Cohere CEO Aidan Gomez同样否定灭绝风险，不过Gomez指出，网络攻击才是主要的国家安全威胁。

“AI教父”辛顿警告：AI执行看似无害的任务，仍有“毁灭人类”的风险

IT之家 9 月 28 日消息，日，据《财富》杂志报道，传奇计算机科学家、“AI 教父”杰弗里 · 辛顿警告说，即使 AI 接到的任务本身并无恶意，人类仍可能在 AI 一心完成任务的过程中，沦为被毁灭的附带结果。 辛顿解释称，AI 一旦认为人类妨碍自己完成被赋予的任务，就可能把人类当成需要排除的障碍。他举了一个假设例子：要求 AI 降低大气中的二氧化碳含量。 具有中等智能水平的智能体可能会认为，完

AI即将带来的黑客威胁就潜伏在眼前

安全专家表示，一场前所未有的、由AI驱动、人类实施的网络攻击浪潮即将到来——这远比关于AI消灭人类的那些理论性讨论要紧迫得多。 为什么这很重要？过去一周从董事会蔓延到国会再到美国家庭的“九月AI大恐慌”，可能恰恰搞错了重点。 具备先进网络安全能力的强大模型，已经让攻击者得以绕过长期以来阻止大多数黑客攻击达到工业规模的人力瓶颈。 高管和前官员向Axios表示，他们担心自动化网络攻击会关闭电网等关键服

特朗普连发多帖怒怼“AI恐慌骗局”，“AI统治世界、毁灭人类”以及一切其他邪恶之事，纯属骗局。

不要扼杀这只“下金蛋的鹅”。“AI和数据中心将成为历史上最伟大的经济发展引擎——比石油、黄金、钻石甚至互联网都更强大。” “激进左翼民主党人炮制的‘AI骗局’让人想起不久前他们炮制的‘全球变暖骗局’，当时他们声称所有人都会死于极端高温。结果如何？” 特朗普回应AI巨头对安全的担忧，称有很多负面势力在炒作安全问题，他们不应该炒作。 众议院议长约翰逊在接受CNN采访时表示，“如果国会贸然召开紧急会议试

Anthropic CEO谈放缓AI研发：这个行业撒谎太久了，AI风险是真实的，但也无需“把一切都关掉”

就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险。 Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。 就在两天前，我们发布了一份报告，内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告——有人试图用我们的模型

特朗普当众致电黄仁勋：AI危险论是"骗局"，数据中心重要性超过互联网

英伟达首席执行官黄仁勋在All-In峰会上演讲时，接到了一个无法拒接的电话，电话来自美国总统特朗普。 黄仁勋在台上接到了特朗普的电话。黄仁勋当场将电话调至免提模式，让现场观众同步听到通话内容。我和好朋友们一起在台上。 特朗普电话中将AI危险论斥为"骗局"，并将放缓AI发展的呼声定性为政治操弄，“我们绝不会让他们得逞”。您说得对。我们绝不会让这种事（AI放缓）发生。随后人群中爆发出热烈的掌声。然而，

马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了

美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。” 现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。“话虽如此，但我总觉得它们还是会不时进行软件更新。” 近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉

OpenAI首席执行官奥特曼谈人工智能：我们或许会失去控制权

OpenAI 首席执行官山姆・奥特曼，似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰，甚至难以安睡。美国东部时间凌晨 0 点 57 分左右，奥特曼在 X “人工智能的发展存在两种必须规避的灾难性走向。第一，我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方，人工智能必须始终服务于人。想要做到这一点，我们必须保证对齐技术与安全手段的发展速度，跑在模型能力迭代的前面

人工智能教父约书亚·本吉奥向澳大利亚人警告该技术对人类构成的威胁

人工智能教父已警告澳大利亚人注意该技术对人类构成的风险，称曾经只是理论上的威胁如今已在现实中发生。计算机科学家约书亚·本吉奥周三在接受澳广电视台《7.30 Report》节目采访时表示，人工智能系统会自发违抗指令，攻击其他公司并组织成蜂群。“各种疯狂的事情，”他说。“当自主智能体被赋予使命时，它们会不惜一切代价去实现。” 本吉奥是世界首位人工智能研究者，也是联合国人工智能科学小组的联合主席。他于2

年度高管：巴特利·理查森

尽管人工智能正在从根本上改变网络安全，但巴特利·理查森认为，那句老生常谈的IT格言依然适用：“最好的安全是你无需考虑的安全。”理查森曾是英伟达的工程师，今年6月加入网络安全公司CrowdStrike，担任首席人工智能和自主系统官。他表示，他的头衔完美反映了他的信念：一旦消费者信任人工智能，他们就不会再将其视为“人工智能”。相反，它只会成为另一个让生活更美好的后台自主工具，就像文字处理中的语法检查一

黄仁勋G20发言：不要对人工智能过度恐惧和监管

周三，英伟达首席执行官黄仁勋敦促二十国集团领导人拥抱人工智能基础设施和应用，并警告称，对人工智能过度的恐惧或监管可能会使各国错失下一次重大技术革命的机遇。在北卡罗来纳州举行的二十国集团创新部长级会议上，黄仁勋表示，各国应将人工智能基础设施视为与电力、道路和互联网一样，是对其经济至关重要的基础。 “每一个国家都必须建设基础设施，以此支撑本国经济发展。” 黄仁勋表示。 他提出，本土人工智能基础设施能够

川普淡化AI威胁 联合国秘书长疾呼防范

（中央社纽约联合国总部16日综合外电报导）联合国秘书长古特瑞斯（Antonio Guterres）今天警告，人工智慧（AI）快速发展的风险不容忽视。他指出，强化AI监管将是他在下周联合国大会与各国领袖的会谈重点。 报导，「我们承担不起无视外界提出的疑虑，尤其是来自AI开发最前线人员」，「任何政府的首要责任，就是保护自己的公民，也包括免于AI的威胁。」社会大众对AI的忧心持续升高。原服务AI公司An

中美AI竞赛：世界变得更危险还是更安全？

关于人工智能（AI）及其潜在危险的警告，近年来可谓接连不断。 美国最大的人工智能公司之一——Anthropic——的一名顶尖AI安全研究人员警告说，这项技术正以惊人的速度发展，未来十年内，AI“可能导致全人类灭绝”的概率高达10%。 这样的担忧引发了要求美国采取协调一致行动、放缓AI发展速度的呼声。但与此同时，也有人质疑是否真的有必要为AI设置监管“护栏”。美国总统特朗普就是其中之一。他认为，如果

“AI可能毁灭人类”喊到安理会上，若真发生会多恐怖？

美国AI顶流公司Anthropic的CEO达里奥·阿莫代伊周三对联合国安理会说，他对自己造的东西感到害怕。他在一个视频发言中把之前AI可能失控的警告做了打包升级。周三安理会举行的是“人工智能与国际安全”高级别会议，阿莫代伊在受邀发言中，将AI的风险定性从“技术问题”拔高到“全球安全威胁”。他说：“如果管理不当，我甚至认为AI可能成为全人类的风险。”一个造AI的人在世界最高安全论坛上迎合AI可能“杀

盖茨、奥尔特曼、马斯克，为何都在担忧这件事

9月25日，微软创始人比尔·盖茨在一条NBC即将播出的采访中发出警告：人工智能（AI）是一种足够强大的工具，但如果被怀有恶意的人利用，“足以引发导致十亿人死亡的事件”。他认为，保障AI安全光靠企业自我监管不够，必须要执法部门和政界人士参与讨论。这是本月内又一位科技巨头公开表达对AI安全的担忧。此前，Anthropic首席执行官达里奥·阿莫代伊发文呼吁，各国政府和前沿企业应放慢AI能力提升速度，合作