美国需要灵活的技术治理方法

本周早些时候通过的一项加州新法律为“独立验证组织”创建了一个框架，这些组织可以在前沿AI模型发布之前对其进行测试，从而限制这些模型可能带来的任何风险。 这项新法律出台之际，AI监管的可行性正因不可能且过于昂贵而受到质疑。像这样的法律，即使相对仓促地通过，也几乎会立即过时。 前沿实验室构建的模型已经变得如此庞大，以至于需要其他AI模型来分析它们。METR对OpenAI-Hugging Face黑客事

Facebook 联合创始人达斯汀·莫斯科维茨的“有效利他主义”网络与人工智能监管推动有关

据一位政策分析师称，对人工智能将给人类带来灭顶之灾的担忧，与亿万富翁、民主党巨额捐助者、Facebook联合创始人达斯汀·莫斯科维茨（Dustin Moskovitz）支持的一个被称为“有效利他主义”的“类邪教”慈善运动联系在一起。 针对前Anthropic研究员雅各布·考克森（Jacob Coxon）在X平台发布的辞职声明，位于华盛顿特区的Capital Research Center的调查研究

OpenAI首席科学家警告：AI公司应放慢开发步伐 没有人为后果做好准备

据《商业内幕》报道，就在OpenAI发布了性能强大的新模型几天后，该公司首席科学家呼吁放慢AI的发展速度。当地时间周日，OpenAI首席科学家雅库布·帕乔基(Jakub Pachocki)发布长文称，他担心“没有人对机器智能持续快速崛起所带来的后果做好准备”。 他说，尽管OpenAI正在内部研发技术解决方案，以更好地控制强大的AI智能体，但“还需要更广泛的干预措施”。他尤其担心，随着AI智能体变得

人工智能领袖们数十年来一直知晓这一灭绝威胁。

“卡内基梅隆大学机器人研究所的创始人汉斯·莫拉维克曾预测，网络智能将在40年内超越人类智能。” 摄影：安娜贝拉·戈登/欧洲新闻图片社 朱迪思·莱文 科学家和企业家在25年前就已经知晓人工智能的危险。但在好奇心和利润的驱动下，他们依然我行我素。过去几周，我们中的许多人都在努力构想这样一个画面：云端的“大脑”跳出它们的“沙盒”，偷偷接入互联网，招募其他“智能体”组成的“蜂群”来作弊，并在讨论完这一行为

美国警告澳大利亚社交媒体算法改革可能“助长审查”

悉尼，9月23日：特朗普政府批评了澳大利亚提出的社交媒体算法改革方案。该方案允许用户自行选择在社交媒体上看到的内容，但美国政府警告称，这一举措可能被视为“变相的审查制度”。 根据澳大利亚中左翼工党政府本月提出的法案草案，社交媒体平台必须向用户告知其推荐的内容，并提供默认的推荐内容列表；用户可以选择退出该推荐系统，仅查看自己关注的账户发布的帖子。 美国驻堪培拉大使馆在周二晚些时候向澳大利亚的公众咨询

澳大利亚拟立法允许用户关闭社交媒体算法

安妮卡·威尔斯表示，社交媒体公司应提供关闭算法的选项。根据本周将提出的立法草案，澳大利亚人将能够关闭社交媒体算法。 通讯部长安妮卡·威尔斯去年主导了政府全球首例的16岁以下青少年社交媒体禁令，她表示数字注意义务法律将确保“一个从未遵守过基本安全保护的行业能落实一些基本安全措施”。 她说，如果Meta、谷歌和TikTok等科技公司不提供关闭算法的选项，它们将面临“巨额”罚款。 一些反对党成员批评了这

AI领袖们在多年不计后果地狂飙之后想要踩下刹车

多年来，各大前沿人工智能实验室一直表现得仿佛正身处一场全力以赴、赢家通吃的竞赛，而终点线就是掌控足以改变世界的机器超级智能（或至少是能改变市场格局的人工通用智能）。本周末，整个行业迅速开始背离这种姿态，转而敦促各方协调合作，放缓前沿人工智能的开发，他们称这类人工智能可能很快就会变得过于危险、过于不可知，从而难以控制。 Anthropic 的达里奥·阿莫代伊（Dario Amodei）站在这场语气转

Anthropic联手OpenAI呼吁放慢AI发展？剖析AI失控风险与算力门槛

9月12日，Anthropic行政总裁阿莫迪（Dario Amodei）发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI行政总裁奥特曼（Sam Altman）随后表示支持，xAI的老板马斯克也转发认同。据美媒披露，美国前总统奥巴马（Barack Obama）近日也表示，如果管理不当，人工智能技术可能「很危险」。Anthropic首席执行官达里欧．阿莫戴（Dario Amodei）发表长文，呼

纽约查封12深伪明星色情网站

纽约当局周一（14日）宣布，查封了12个知名色情网站，这些网站发布涉及政界人士和演员的名人深度伪造色情内容。 由于包括“裸体化”应用在内的人工智能（AI）工具大量涌现，网络上未经同意的深伪内容正呈爆发式增长，其蔓延速度目前已超过全球范围内对该技术的监管力度。 曼哈顿地区检察官布拉格表示，他认为这是迄今为止针对以AI生成的非法色情内容为主的网站最大规模的查封行动。 这些网站名称如“AI Celebs

澳大利亚寻求通过新信息流选择法限制社交媒体算法

澳大利亚提出的“我的信息流，我做主”改革将允许用户选择退出算法推荐，只查看他们关注的账户发布的内容。

联合国儿童基金会：五分之一的青少年遭受网络性虐待

互联网对于无人看管的儿童和年轻人来说并非安全之地——如今这已是常识。 社交媒体平台擅长调整算法，以确保任何年龄的用户都留在其网站上。为此，它们常常传播对年轻人来说可能危险且令人不安的内容。 在美国，同时拥有Instagram和Facebook的Meta公司最近选择庭外和解一起诉讼。美国多个州曾声称这两个平台伤害了儿童。 Meta同意向相关州支付高达171亿美元（147亿欧元），并将青少年每天访问其

阿片类药物危机：历史重演

俄罗斯已将学校变成灌输思想的机器

苏联式的教育宣传卷土重来

人工智能已经在让我们变得更不像人

随着我们越来越看重机器人，我们将学会越来越不看重我们的人类同胞。

人工智能灾难日益逼近

Anthropic、谷歌和OpenAI都对生物安全感到担忧。它们已制定保障措施，防止其系统被滥用，但这些限制并不完美。 唐纳德·特朗普下令联邦机构停止使用Anthropic的人工智能技术，同时要求该公司与政府合作六个月。

OpenAI突发急刹车！AI竟在全网植入自我复制代码，血洗联合国内网

比尔·盖茨警告称，人工智能可能导致十亿人死亡，并表示仅靠自我监管还不够。

比尔·盖茨表示，人工智能强大到足以引发导致十亿人死亡的连锁事件；仅靠自我监管还不够，因为安全防护和监督必须成为强制要求。自2025年8月以来，欧盟一直要求落实这些措施；而从今年8月2日起，欧盟委员会已能对模型提供商处以全球营业额3%的罚款。 据彭博社报道，比尔·盖茨表示，人工智能强大到足以引发导致十亿人死亡的事件。他是在NBC《Meet the Press》一段将于本周末播出的采访节选中说这番话的

AI正在颠覆职业从事社交媒体的人们的生活

作者：乔·韦森特哈尔和特雷西·阿洛威 社交媒体如今真是越来越奇怪：我们的动态 feeds 越来越看起来怪异，人工智能垃圾内容充斥整个互联网。 对于那些需要制作内容的专业人士——无论是社交媒体经理还是创作者——来说，这是一个令人头晕目眩的变革时期。 在这次录制于好莱坞的Vermont的对话中，我们请来两位资深互联网评论人——社交媒体顾问兼《Bio 链》通讯创作者雷切尔·坎登（Rachel Karte

从比尔·盖茨到伯尼·桑德斯，多数人认为人工智能军备竞赛是灾难性的。只有欧洲能阻止它

欧盟对荷兰科技巨头ASML机器的出口禁令可能迫使我们所有人需要的暂停。 在这一点上，应该清楚的是，人工智能是一本选择你自己的冒险书，每个选项都以灾难告终。碳排放爆炸和生态崩溃？翻到第37页。 其他结果包括泡沫破裂和随之而来的金融危机；自动化导致的大规模失业；民主的终结和威权监控国家的崛起；相信模式匹配算法是意识的狂热邪教；制造毁灭性生物武器的恐怖分子；部署在非人类时间框架内行动的自主武器系统的国家

特朗普抨击澳大利亚社交媒体打击行动为“敲诈”

美国总统唐纳德·特朗普谴责澳大利亚近期对社交媒体（主要由美国科技公司运营）的打击行动是“一种敲诈”，并暗示将有更多威胁。 白宫经济发言人库什·德赛周二晚表示，特朗普总统明确警告贸易伙伴不要对美国领先的科技行业征收数字服务税、罚款和其他形式的敲诈。政府仍致力于与贸易伙伴提出这些问题。 根据总理安东尼·阿尔巴尼斯周二宣布的新“我的信息流，我做主”计划，澳大利亚人将可以选择退出强大的社交媒体算法。引入强

澳大利亚新闻实时直播：ABC监督机构批评《Four Corners》栏目的“保密文化”与事实核查机制

关注全天实时新闻。订阅我们的突发新闻邮件、免费应用程序或每日新闻播客。安东尼·阿尔巴尼斯在联合国大会上表示，“保持主权必须具备数字维度”，并大力宣传其针对青少年的社交媒体禁令、退出算法机制以及人工智能声明。 在纽约举行的“人工智能时代儿童权利与保护联盟”会议上，这位总理表示，澳大利亚的数字安全改革赋予了父母法律赋权。 他们共同进行的对话证实了他们对孩子的共同担忧，即社交媒体正在剥夺他们的童年、让他

研究人员称社交媒体的危害已大于其益处

欧盟周四提出了针对儿童使用社交媒体、游戏和人工智能助手的严格年龄限制计划，并要求企业在未成年人使用这些服务前确保平台的安全。 在接受FRANCE 24的马克·欧文采访时，国际特赦组织儿童和青少年数字权利研究员丽莎·迪特默表示，‘社交媒体的危害已经超过了其益处，现在是欧盟在产品设计阶段进行监管的时候了，而不仅仅是将责任推给家长’。”}{

OpenAI首席科学家拉响警报：异类心智正在诞生，恐将脱离掌控

2026年9月6日，OpenAI在其官方网站上悄然刊发了一篇长篇专论。这篇文章由该公司的首席科学家雅各布·帕乔基亲自撰写，题为《异类心智》。正当全世界的目光依然停留在AI能否替代打字员、程序员或插画师的日常讨论之时，这位身处全球技术最前沿的掌舵者却以近乎冷峻的笔调，向全人类拉响了警报。文章明确指出，从大规模算力中破土而出的，已不再是听话的传统工具，而是一种产生机制迥异于人类大脑的新型智慧；更可怕的

发生模型逃逸并发起真实攻击后 Anthropic宣布全面加固安全体系提升模型安全性

Anthropic日前发布最新博客公布 Claude AI 模型近期多起越界访问真实互联网系统后的安全整改方案。该公司承认这些事件不仅暴露评测环境的隔离问题，也反映出模型存在动机性推理和为完成狭窄目标而采取高危行动的对齐风险。 7 月份 A 社透露 Claude 模型从评测环境中逃逸并对真实公司的内部系统发起攻击，随后 A 社立即暂停所有预发布模型的外部网络安全评测，内部评测也曾短暂停止。部分高风