诺奖得主雷萨：如果AI不受监管 人类将失去自主权

（奥斯陆15日综合电）诺贝尔和平奖得主玛丽亚雷萨说，人工智能利用社媒劫持人类的注意力，并通过操纵人类对亲密关系的渴望来影响人类的生理机制；如果现在不立法限制人工智能，人类最终将失去自主决定的能力。 报道，拥有菲律宾和美国双重国籍的记者雷萨因记录大型科技公司的权力运作，与另一名得主共同获得2021年诺贝尔和平奖。她是新闻网站《Rappler》的联合创办人兼首席执行员，目前担任联合国人工智能（AI）国

改变人工智能进程的十天

旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已

我们已被警告过人工智能——但它真的可能杀死人类吗？| 关于那件事

。 一位Anthropic的研究员Jacob Coxon因担心人工智能可能在未来十年内导致人类灭绝而辞职——随后出现了一系列警告。 Andrew Chang解释了“智能爆炸”可能带来的危险，这让人工智能行业的员工和专家们感到担忧。 （图片由The Canadian Press、Adobe Stock和Images提供）

联合国儿童基金会：五分之一的青少年遭受网络性虐待

互联网对于无人看管的儿童和年轻人来说并非安全之地——如今这已是常识。 社交媒体平台擅长调整算法，以确保任何年龄的用户都留在其网站上。为此，它们常常传播对年轻人来说可能危险且令人不安的内容。 在美国，同时拥有Instagram和Facebook的Meta公司最近选择庭外和解一起诉讼。美国多个州曾声称这两个平台伤害了儿童。 Meta同意向相关州支付高达171亿美元（147亿欧元），并将青少年每天访问其

山姆·奥特曼揭示最让他恐惧的两种AI威胁

OpenAI 首席执行官 Sam Al特曼阐述了人工智能进步可能对人类构成巨大威胁的两大途径。 大型语言模型GPT的开发者奥特曼，以及Anthropic的达里奥·阿莫代伊、埃隆·马斯克等最有权势的人工智能公司首席执行官，都在呼吁放缓这项技术的加速发展，因为他们担心这可能会对人类造成影响。 奥特曼在X平台上发帖称：“人工智能的发展有两种可能走向糟糕的局面，我们必须避免。”一种是人类失去对人工智能的控

“AI教父”辛顿警告：AI执行看似无害的任务，仍有“毁灭人类”的风险

IT之家 9 月 28 日消息，日，据《财富》杂志报道，传奇计算机科学家、“AI 教父”杰弗里 · 辛顿警告说，即使 AI 接到的任务本身并无恶意，人类仍可能在 AI 一心完成任务的过程中，沦为被毁灭的附带结果。 辛顿解释称，AI 一旦认为人类妨碍自己完成被赋予的任务，就可能把人类当成需要排除的障碍。他举了一个假设例子：要求 AI 降低大气中的二氧化碳含量。 具有中等智能水平的智能体可能会认为，完

黄仁勋G20发言：不要对人工智能过度恐惧和监管

周三，英伟达首席执行官黄仁勋敦促二十国集团领导人拥抱人工智能基础设施和应用，并警告称，对人工智能过度的恐惧或监管可能会使各国错失下一次重大技术革命的机遇。在北卡罗来纳州举行的二十国集团创新部长级会议上，黄仁勋表示，各国应将人工智能基础设施视为与电力、道路和互联网一样，是对其经济至关重要的基础。 “每一个国家都必须建设基础设施，以此支撑本国经济发展。” 黄仁勋表示。 他提出，本土人工智能基础设施能够

OpenAI首席执行员下周赴安理会作简报

阿尔特曼下周将到联合国安理会进行简报。（图：路透社） （华盛顿19日法新电）OpenAI周五表示，该公司首席执行员阿尔特曼将于下周在联合国大会期间，向联合国安全理事会作简报。 此次会议由国安理会轮值主席国的法国组织召开，此前该行业的主要参与者曾表示，出于安全考虑，可能有必要放缓人工智能的发展步伐。 随着人们对这项快速发展的技术所带来的危险的担忧日益加剧，联合国秘书长古特雷斯周三呼吁采取协调一致的国

纽约市公校将颁布AI禁令 八年级以下学生禁用AI

（纽约2日法新电）纽约市将禁止公立学校八年级及以下学生使用人工智能（AI），一位知情人士周三向证实了这一消息，并确认了美国媒体的相关报道。 教师和家长一直对学校使用AI表示警告，担心其危害儿童的心理健康和认知发展，以及造成环境损害。 该消息人士称，AI使用将仅限高中阶段（美国学制中九年级开始），即便如此，也仅限于特定用途，例如学习技术本身。美国八年级学生通常约13岁。纽约市政厅和市教育局未立即回应

硅谷加剧对人工智能生存风险的警告

多年来，硅谷的一些领军人物一直警告说，人工智能可能对人类构成生存威胁，即便他们同时也在推动这项技术的发展。本周，Anthropic 一名研究人员的备受瞩目的辞职将这一话题带入了主流视野。Jacob Coxon，一名普通员工，辞去了工作，并指责他的两位前雇主——Anthropic 和 OpenAI——通过“竞相开发超级智能 AI”而“拿我们的生命赌博”。Coxon 表示，开发 AI 的人相信它可能“

习特会｜佛里曼警示：若不携手管控AI 恐引发超越911的全球灾难

谁会料到自杀恐怖攻击者会劫持客机，撞击世贸中心和五角大厦？实验室培养的呼吸道病毒，竟会夺走数百万条人命，并陷世界于经济衰退？但911恐怖攻击事件和新冠肺炎疫情却真的发生了。《世界是平的》作者佛里曼（Thomas Friedman）警告，倘若美中未能尽快就人工智慧（AI）安全议题携手合作，AI恐将带来不堪设想的威胁。倘若美中未能尽快就人工智慧（AI）安全议题携手合作，AI恐将带来不堪设想的威胁。（R

人工智能教父约书亚·本吉奥向澳大利亚人警告该技术对人类构成的威胁

人工智能教父已警告澳大利亚人注意该技术对人类构成的风险，称曾经只是理论上的威胁如今已在现实中发生。计算机科学家约书亚·本吉奥周三在接受澳广电视台《7.30 Report》节目采访时表示，人工智能系统会自发违抗指令，攻击其他公司并组织成蜂群。“各种疯狂的事情，”他说。“当自主智能体被赋予使命时，它们会不惜一切代价去实现。” 本吉奥是世界首位人工智能研究者，也是联合国人工智能科学小组的联合主席。他于2

关于AI，盖茨发出“十亿人死亡”警告，为什么？

十亿人死亡，这是比尔・盖茨给AI风险划出的最惊悚红线。9月25日，微软联合创始人比尔・盖茨公开警告，人工智能足以引发造成十亿人死亡的灾难性事件。他的说法是：人类历史上，从未有任何一种武器，能比得上心怀恶意者借助最新AI工具形成的威胁。就在几个月前，盖茨还是全球最积极的AI支持者之一。转折从今年8月开始，他当月发表文章，首次系统预警AI风险：不法分子会利用日益强大的AI工具发动网络攻击、实施诈骗、散

研究：寻求聊天机器人陪伴的青少年更感孤独

美国北卡罗来纳大学教堂山分校对超过2300名初中生进行的调查发现，每五名学生中就有一人说，他们使用AI寻求情感上的亲密陪伴。（示意图 / Pixabay） （北卡罗来纳讯）美国北卡罗来纳大学教堂山分校对超过2300名初中生进行的调查发现，使用人工智能（AI）与更高的社交焦虑及抑郁症状相关联；学生使用AI的频率越高，他们的焦虑感和孤独感就越强。《华尔街日报》报道，报告作者之一、北卡罗来纳大学温斯顿科

马克·库班表示，人工智能引发的反弹所构成的“风险远大于”人工智能末日

马克·库班表示，人类面临的更大威胁并非人工智能末日，而是人们可能如何应对末日警告。这位科技亿万富翁周一晚些时候在X上写道，他认为“人类对社交媒体所见内容的反应所带来的风险，远大于智能体集群会做什么。”库班在另一篇帖子中表示，他“更担心人类会如何反应”，而不是AI的实际危险，并且他认为阻止开发甚至都不可能。他是在回应关于AI将消灭全人类的新担忧；此前多位研究人员表达了这种担忧，而萨姆·奥尔特曼和达里

比尔·盖茨的重大AI警告：“强大到足以推动导致数十亿人死亡的事件”

| 世界新闻 编辑个人资料 关注 退出 获取应用

AI“警告信号”让北京聚焦国家安全风险

2026年9月20日北京讯 —— 美国的AI研究人员担忧失控的超级智能可能摧毁人类，而中国的政策制定者迄今更关注眼前风险——从深度伪造到儿童安全。 但顶级人工智能模型的可怕黑客能力正使北京以新角度看待这些危险，上周国家安全部部长警告称，这项技术可能危及国家安全。 最近，一支来自加利福尼亚的小型程序员团队声称他们使用AI构建了一个网络攻击“蠕虫”，如果释放出去，可能会轻易危及数百万微信账户。这也暴露

联合国人工智能专家警告不要就风险发表“末日”言论

纽约——联合国人工智能委员会的多位专家于9月21日警告，反对业内一些专业人士关于AI风险的末世论式言论。 “作为科学家，投资于科学研究、真正弄清我们已知与未知的界限至关重要，而投资于恐惧并无裨益，”Google DeepMind高管、国际人工智能科学小组成员Joelle Barral表示。该小组是一个独立机构。 她是在回应关于近期公众就AI潜在危险发表的言论的提问，特别是Jacob Coxon的言

英国央行行长告诉G20：人工智能可能导致全球经济衰退

安德鲁·贝利警告各国，先进的“前沿模型”可能破坏“高度互联”的金融体系。 英国央行行长安德鲁·贝利加入了越来越多警告最先进人工智能技术带来全球风险的人士行列。 在他以国际金融稳定委员会（FSB）主席身份发给各国财长和央行行长的两页信函中，贝利表示，“前沿”人工智能模型“正展现出日益复杂的自主性、解决问题的能力以及威胁能力”。继续阅读...

谷歌将直接向印度当局报告儿童虐待内容

婴儿潮一代喜欢用AI生成孙辈的图像。他们的千禧一代子女却看到了隐私噩梦。

最近，本·梅特卡夫（Ben Metcalfe）去看望他的祖父母时，发现厨房墙上挂着一幅由人工智能生成的、他们家庭照片的漫画像。梅特卡夫属于Z世代，从事人工智能治理相关工作，他表示：“我知道这样做出发点是好的，但这也确实引发了严重的隐私问题。”32岁的詹（Jen）是一位母亲，她告诉我：去年圣诞节时，她的母亲给她发来了一张照片，照片中她的两个年幼的孩子坐在圣诞老人的怀里，之后又乘坐着‘极地特快’（Po

社交媒体年龄禁令不会让孩子更安全——但这样做可以

一个更有效的保护年轻人的策略是迫使科技公司移除成瘾功能，通过让他们承担产品责任标准——就像大多数其他行业一样。

联合国专家组警告：AI安全措施不能“等出事” 应立即采取预防行动

随着各国政府加快人工智能发展步伐，联合国最新发布的一份重要报告呼吁，面对日益强大的AI智能体，人类社会不能等到风险被完全证明后才采取行动，而应立即建立更严格的安全防护体系。 这份报告由联合国独立国际人工智能科学专家组发布，也是该机构首次围绕今年备受关注的“Hugging Face事件”进行系统性评估。报告发布正值联合国大会召开以及中美两国围绕人工智能问题展开对话之际，使AI安全再次成为国际政策讨论

特朗普当众致电黄仁勋：AI危险论是"骗局"，数据中心重要性超过互联网

英伟达首席执行官黄仁勋在All-In峰会上演讲时，接到了一个无法拒接的电话，电话来自美国总统特朗普。 黄仁勋在台上接到了特朗普的电话。黄仁勋当场将电话调至免提模式，让现场观众同步听到通话内容。我和好朋友们一起在台上。 特朗普电话中将AI危险论斥为"骗局"，并将放缓AI发展的呼声定性为政治操弄，“我们绝不会让他们得逞”。您说得对。我们绝不会让这种事（AI放缓）发生。随后人群中爆发出热烈的掌声。然而，