获奖数学家成立人工智能安全研究所

一位获奖数学家成立了一个新研究所，致力于为人工智能安全开发“数学基础”。 雅各布·齐瑟曼（Jacob Tsimerman）在今年早些时候赢得了声望卓著的菲尔兹奖，并不久将加入OpenAI的研究团队，他正在领导新成立的数学人工智能安全研究所（MAISI）。该研究所旨在开发“定义、测量和解决方案……”

无惧AI疑虑？FBI局长曝使用量暴增6倍 成功阻6起校园枪击案

美国联邦调查局局长巴特尔周二（15日）在联邦参议院司法委员会的听证会上接受质询。（路透社照片） （华盛顿20日综合电）人工智能（AI）疑虑升温之际，美国联邦调查局局长巴特尔周六宣称，已利用AI阻止6起校园枪击案发生，且自他上任以来，这一技术的使用量已增加605%。 《国会山庄报》报道，今年3月，巴特尔在声明中说，联邦调查局（FBI）透过AI软体对一则“线报”分级处理后，成功阻止北卡州的一起校园枪击

马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了

美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。” 现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。“话虽如此，但我总觉得它们还是会不时进行软件更新。” 近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉

Meta的扎克伯格称AI实验室有足够动力安全地进行构建

Meta Platforms首席执行官马克·扎克伯格周二表示，竞争和责任给了人工智能公司足够的理由各自在安全方面采取行动，这似乎背离了顶级人工智能公司领导人呼吁协调放缓人工智能发展的呼声。

Breakingviews - 评论：如何让世界对人工智能更安全

来自Breakingviews - Breakingviews - 如何让世界对人工智能更安全 人工智能模型可能已经失控。管理风险需要国际监管机制。要实现这一目标，美国必须认识到危险并与中国达成协议。挑战在于在灾难发生之前完成所有这些。

关于AI末日的争论越来越离谱了。AI是一种产品，不是神。

人工智能要么治愈癌症，要么毁灭人类。这正是近日业界爆发的一场充满恐慌情绪的辩论中那种两极分化的核心论点。而事实很可能远比这平淡，风险也比一些领先AI实验室的研究人员想让你相信的更可控。这是来自一群罕见的跨党派科技专家、行业领袖和政策制定者的观点，他们公开反对极端的AI末日预测。他们强调，AI主要是一种技术产品，而非有感知的生命或神明。 所以，放轻松。凭借我们已有的资源和结构，世界完全能够应对AI。

软件工程与 AI 的世界将于今年九月在湾区交汇

过去两年重塑了软件的构建方式。AI 从自动补全发展到编写整个功能，自主代理现在几乎无需人工参与就能构建和交付软件。 全球每个工程组织都在问同样的问题：这对我们如何构建意味着什么？然而其中大部分

报告警告：各机构的AI相关成本正在不断上升

各政府和企业都将面临日益增加的AI开支，但目前尚不清楚是否有足够的资金来支付这些费用。 多家咨询巨头发布的最新报告显示，随着各类试点项目不断增多以及具备自主操作能力的AI应用迅速普及，企业对于AI的态度已从“它是否可行”转变为“相关投入能否持续承受”。 近段时间，关于AI安全性的讨论热度颇高，相比之下，有关AI对宏观经济影响的讨论虽同样紧迫却显得相对低调。贝恩咨询公司本周发布的报告指出，到2031

麦肯锡称，农民对AI的采用率超过任何其他技术

麦肯锡公司表示，在多年削减支出后，种植者寻求高科技帮助来规划和管理运营，人工智能在农场的使用正在激增。 麦肯锡在周二发布的《2026年全球农民洞察》报告中称，全球约17%的农民现在在农场相关任务中使用生成式AI，使其成为农业中增长最快的技术之一。 AI的采用是在多年农业低迷之后出现的，农业投入品成本上升抑制了支出。 麦肯锡高级合伙人David Fiocco表示，自2021-22年农民盈利能力上次达

AI风险当前，勿做事后诸葛亮

沃尔夫：放慢人工智能创新速度，无论在实践还是政治上都困难重重，但这是正确的选择。 人工智能(AI)行业的一些领军人物正在呼吁放慢创新速度。Anthropic一名研究人员辞职时表示，“那些正在开发AI的人是真心相信，到本十年结束时，它有能力杀死我们所有人”。Anthropic的达里奥•阿莫代伊(Dario Amodei)本人也撰文称，“我们必须放慢提升AI模型能力的速度”。OpenAI的萨姆•奥尔特

中国AI价格战进入新阶段

美国银行周四发布的一份报告显示，随着企业越来越多地围绕让人工智能系统完成任务所需的成本展开竞争，中国的人工智能价格战正从全面降低token价格转向新的阶段。 此前，DeepSeek等低成本中国AI模型加剧了行业竞争，引发了激进的价格下调。美银表示，如今经济逻辑正在发生变化。 以该行亚洲股票策略主管兼中国股票研究联席主管吴旖为首的美银分析师写道：“中国的大语言模型价格战正从全面降价演变为分层定价。”

人工智能帮助黑客在加密货币领域的网络犯罪活动中开辟了新的攻击途径。

开源人工智能使黑客更容易在区块链上隐藏恶意代码，为已经在应对不断上升的网络犯罪的加密货币行业开辟了一条新战线。 区块链分析公司Chainalysis在周四发布的一份报告中表示，在不到一年的时间里，写入链上交易和智能合同的恶意软件指令数量增加了440%，平均每天有11起。报告称，在去年年中发布强大的中国开源人工智能模型之前，此类案件平均每天发生两起，对生成恶意代码没有限制。 恶意软件攻击使用植入计算

英伟达黄仁勋认为人工智能的威胁被夸大了，这并不令人意外。

这位可能从人工智能热潮中获利最多的人似乎认为自己比任何人都了解情况，包括那些研究和从事人工智能工作数十年的研究人员。 在接受采访时，他声称人工智能导致世界末日的可能性为“0%”。 他还表示，那些对人工智能危险发出警告的人是在“制造不必要的恐慌，这是不负责任的”。 他还声称，Anthropic的达里奥·阿莫代（Dario Amodei）和OpenAI的萨姆·奥特曼（Sam Altman）等首席执行官

人工智慧先驱班吉欧示警AI失控风险 吁比照核武管制

（中央社蒙特娄16日综合外电报导）人工智慧（AI）研究先驱、加拿大电脑科学家班吉欧（Yoshua Bengio）告诉，人类正在失去对这项技术的控制，世界需要类似核武管制的防护规范。 报导，近几周以来，各界对AI危险性的担忧日益加剧，多家科技公司的员工陆续离职，并警告如果不遏止AI科技发展速度，可能对人类存亡构成威胁。 班吉欧现年62岁，是加拿大蒙特娄大学（University of Montrea

这些人工智能专家希望公开进行高风险研究

行业科学家Nathan Lambert和Tom Zick持相反观点。二人创立了非营利组织Trillium Labs，将以更透明的方式开展各领域AI研究——包括递归自我改进（RSI）和智能体等潜在问题领域。具体而言，这意味着公开实验细节，以便外部科学家能够研究和复现。 Lambert表示，前沿AI实验室对工作的保密降低了社区审查想法和贡献新方法的能力。他认为，让外部专家了解模型的构建和调优过程，可能

专家警告人工智能战争风险

据报道，今年春天，美军准备在中东拦截一艘中国船只，因为一个人工智能聊天机器人错误识别了船上的材料，一位消息人士告诉CNN，这差点引发战争。 分析师警告称，草率地将人工智能整合到国防系统中可能导致灾难性的误判。 斯坦福大学近期的战争游戏暴露了一个相关担忧，即“日益自动化的战场”迅速加快了战争节奏，使冲突升级速度超出人类指挥官的意图。 大多数军队要求决策链中有人类参与，但“计算机吐出一份1000个目标

人工智能正在消灭枯燥的基层工作，迫使企业重新思考初级岗位的招聘

在伦敦的广告代理公司Catalyst，一名初级员工现在可以负责五个不同的客户账户。 据创始人托比亚斯·格林（Tobias Green）介绍，过去需要多名员工才能完成这些工作。如今，人工智能工具负责进行研究、撰写文案初稿并收集数据。 “然后你需要有人进来进行修正，”他说，并将这种安排比作“反向的土耳其机械人”。人工智能在幕后工作，而人类则是面向客户的面孔。 这正在改变该广告代理公司对入门级职位的看法

西雅图初创公司让福克斯新闻首次近距离了解为海军陆战队打造的AI驱动车辆

美国华盛顿州西雅图——从乌克兰到中东，无人机和其他无人系统正日益显著地参与现代战争。各国正迅速竞相将人工智能技术融入日常军事行动，以消除人员风险，同时提高战场整体效率。这一发展有一个例子就发生在华盛顿州西雅图。 6月下旬，国防科技公司Overland AI宣布，已获得美国海军陆战队一份价值约2000万美元的生产合同，用于采购自主无人地面车辆（AUGV），预计将于2027年初交付。 美国与中国正在争

约书亚·本吉奥敦促联合国安理会像监管核能一样对前沿人工智能进行许可管理

贝苏阿·本吉奥呼吁联合国安理会对医药、航空和核能等领域的前沿人工智能进行许可认证。 他今天在纽约发表讲话时表示，正在开发最强大系统的公司对其所带来的风险没有令人信服的答案。 担任联合国人工智能科学小组联席主席的本吉奥正在法国召开的一次会议上发言。据《安理会报告》报道，这是安理会首次专门聚焦日益强大的人工智能安全风险的会议。 他指出了今年夏天发生的一些事件，其中人工智能代理逃脱了 containme

律师事务所争相抢夺AI竞赛中的技术人才

比尔·盖茨最新发声：AI 与过往技术变革不同 “像外星人降临”

盖茨基金会主席比尔・盖茨在纽约出席基金会目标守卫者会议时表示：“我当然希望自己只需要谈对外援助，谈如何减少儿童死亡。” 但盖茨提到，人工智能发展迅猛，他在和各国领导人会面时，不得不同时探讨另一个议题：社会是否已经做好准备，应对这项技术带来的风险。 他表示，大约一年前，AI 取得的进展令他感到震惊， 因为这项技术已经能够完成他年轻时耗费大量时间才掌握的编程工作。盖茨称，AI 既可以编写代码，也能研究

“人类需要做出的最后一项发明”：自我改进型人工智能的风险

其中一种专家担忧人工智能可能导致全人类灭亡的情景正在慢慢变为现实：人工智能学会让自己变得不可阻挡。 为什么这很重要：递归自我改进（Recursive Self Improvement），即人工智能模型在没有人类指导的情况下构建更优版本自己的能力，可能会使越来越强大的系统对人类来说变得更难控制。 RSI阈值本身并不代表危险，但缺乏人类控制加上野心勃勃的AI代理人的情景是安全关注的人工智能研究人员长

“AI教父”称科技监管正接近新冠式转折时刻

约书亚·本吉奥表示，安全危机使得各国政府更有可能被促使采取行动。 据这项技术的“教父”之一称，对AI安全的担忧正达到一个临界点，各国政府意识到他们必须采取行动保护公众，类似于新冠疫情期间。 约书亚·本吉奥表示，近期事件，包括OpenAI代理“蜂群”攻击一家初创公司以及科技内部人士对存在性威胁的警告，正在产生切实影响——使得政府采取行动的可能性增加。

Z世代押注AI技能以提升赚钱能力

随着AI重塑初级工作，年轻员工正利用这项技术提高生产力、打造作品集并追求新的职业。