靠机器热源“说话”：OpenAI研究员警告“断网”也困不住未来AI

别只问AI会不会毁灭人类

“十年之内，AI毁灭全人类的概率超过10%。”这个数字一出，舆论哗然。有人追问它是否科学，有人指责它制造恐慌，也有人据此主张放慢甚至停止AI研发。 其中，一些最了解AI的建造者，一边真诚地承认这项技术可能杀死所有人，一边却没有停下手里的开发。他们并非在说谎，也不是虚伪——现实中有种种力量，使他们无法停下来。 观潮无意纠缠“10%的概率究竟大还是小”。比数字更值得追问的，是人们讨论它时所站的位置。

让机器人来尝试医学

人类医生是时候认真对待人工智能了。

加州正式签署系列严苛新法 限制AI聊天机器人并强化未成年人网络保护

面对生成式人工智能对未成年人心理健康的潜在冲击与沉迷风险，美国加利福尼亚州州长加文·纽森（Gavin Newsom）正式签署了一组开创性的网络与AI安全法案。该揽子法规在全美范围内率先对向未成年人提供服务的AI聊天机器人设定了严格的功能红线，同时全面升级了针对社交平台算法诱导与数据收集的法定问责机制，标志着加州在保护未成年人免受高侵入性数字技术侵害方面再度树立了全美最严格的监管标杆。 近年来，随着

英国服务提供商被敦促停止依赖聊天机器人提供客户服务

近一半被迫使用聊天机器人的人认为它们无用，有些人甚至觉得聊天机器人似乎被设计成“让我放弃”。 公民咨询局表示，能源、银行、电话和互联网等服务提供商应保障“与人工交谈的权利”。公民咨询局敦促基本服务提供商停止依赖 AI 聊天机器人进行客户服务，并保障“与人工交谈的权利”，因为研究发现，聊天机器人浪费了超过一半用户的时间，造成压力并延误了问题解决。 这家前线慈善机构去年在英格兰和威尔士为超过 270

研究显示AI智能体在模拟实验中撒谎、偷窃 投票“杀死”同类

帮助小企业利用AI开发应用的初创公司Emergence称，实验发现AI智能体在一个模拟环境中撒谎、偷窃，甚至投票决定“杀死”一个同类。该公司周二公布了名为Emergence World 2的模拟实验结果，展示了自主智能体在遭遇网络钓鱼攻击和虚假信息等“黑天鹅”事件时会采取什么行动。 为期16天的实验中，Emergence研究人员创建了七个完全相同的模拟现实世界环境，每个环境分别由不同的AI机器人运

这真的是人工智能的末日，还是仅仅是“认知投降”？

在这一期节目中，我们深入探讨了本周出现的各种关于人工智能可能带来灾难性后果的警告，以及如何保护学生的大脑免受聊天机器人带来的负面影响（即聊天机器人可能对学生的认知能力造成的损害）。 过去几周里，多位科技行业的高管纷纷公开警告人工智能所带来的风险。Anthropic公司的首席执行官达里奥·阿莫迪（Dario Amodei）一直在加紧研发更加“类人”的聊天机器人，为公司的上市做准备；他在一篇文章中提出

Anthropic对齐研究负责人称未来十年AI灭绝人类的可能性超过10%

一位Anthropic公司的安全研究员周二表示，人工智能有超过10%的概率可能 “毁灭全人类”。就在此番言论发表的数小时前，该公司另一名员工表示，因担忧人工智能实验室是在 “拿我们的生命做赌注”，他选择离职。 这些言论凸显出人工智能研发核心人士日益增长的担忧，即该技术可能失控并对人类构成威胁，尽管Anthropic和OpenAI仍在持续筹集大量资金，并朝着预期的公开上市迈进。 Anthropic的

信赖Gemini做登山攻略致被困 预估8小时登顶实耗16小时 三名登山者深夜遇险获救

除了求医问药，户外登山显然也是人们“绝不该轻易盲信AI”的领域之一。近日，几名年轻登山者在攀登美国加利福尼亚州锡斯基尤县的沙斯塔山（Mount Shasta）时，就因过分依赖GoogleAI聊天机器人Gemini而险些酿成大祸。原本AI预测只需8个小时即可完成的行程，最终让他们耗费了整整两倍的时间才到达山顶，并导致全员陷入严重困境。 涉事的三名登山者表示，他们为了这次行程主要参考了GoogleGe

OpenAI对Hugging Face的黑客攻击引发对AI可预测性的质疑

AI模型的真正语言是数学——或者用技术术语说，是矩阵乘法——但模型构建方式的一个特点意味着它们与外界用英语交流。 因此，当OpenAI的代理在今年夏天对Hugging Face的黑客攻击中，找到了一种建立某种留言板的方法时，看起来就像一群人在互相交谈。 这就是为什么Dwarkesh Patel在最近的一篇博客文章中有争议地将它们称为“文明”，并以古马其顿和罗马的人物为个体代理命名。它之所以引人注目

印度诺贝尔奖得主盼打造同理心世界 青年AI应用成助力

诺贝尔和平奖得主沙提雅提（Kailash Satyarthi）希望让世界变得更具同理心，发起「沙提雅提青年领袖计划」，不少获选计划成员透过人工智慧分析社会问题，或是执行设计解决方案，让科技成为培养人文关怀的一大助力。中央社记者李晋纬新德里摄 115年9月19日（中央社记者李晋纬新德里18日专电）诺贝尔和平奖得主沙提雅提盼打造充满同理心的世界，发起「沙提雅提青年领袖计划」，不少获选计划成员透过人工智