人工智能终于让我们质疑我们对放松管制的偏见

周六，Anthropic首席执行官达里奥·阿莫迪发表了一篇文章，敦促科技领导者放慢人工智能的发展步伐。在周日接受哥伦比亚广播公司新闻采访时，他补充说，拥有一个人工智能杀死开关“可能是一个好主意”--与众议员特德·刘（Ted Lieu）（加利福尼亚州民主党人）不同和众议员纳撒尼尔·莫兰（德克萨斯州共和党人）提出。 他认为，“需要某种监督、某种联合治理”来避免公众面临的“巨大风险”，包括“失去对人工智

人工智能“放缓”是一场反垄断乱局

在有报道称多起AI智能体集群攻击网站并通过秘密留言板进行协调，以及一位即将离职的Anthropic工程师向人类发出严峻警告之后，多家领先AI公司呼吁协调一致地“放缓”AI开发。除了反复使用“放缓”这一特定措辞外，它们还表达了对这样做可能触犯反垄断法律的担忧。 反垄断专家表示，尽管这些公司的激烈措辞未必对它们有利，但放任一个失控的杀人AI发展，恐怕也不符合《谢尔曼法》的精神。这部美国关键反垄断法律的

特朗普会晤科技巨头：签署AI"道德约束"协议，推行行业自律监管，“AI远超工业革命”

特朗普在白宫与全球顶级人工智能企业领袖举行闭门午餐会，随后宣布与美国顶尖科技公司就人工智能治理达成原则性协议，将监管主导权交由行业自身，并表示正式将"人工智能"更名为"超级智能"。 9月29日，美国总统特朗普在白宫宴请近二十余名科技行业领袖，特朗普向媒体表示会谈"极为顺利、富有成效"，并称与会各方就诸多议题达成"大量共识"。 随后，特朗普政府与Anthropic、谷歌、Meta、英伟达、OpenA

奥巴马

周一，一个联邦上诉法院一致裁定，应由陪审团决定西雅图市的多元化、公平与包容（DEI）倡议是否为一名白人雇员创造了种族敌对的工作环境，同时强调联邦反歧视法保护所有种族的工作者。 该三名法官组成的合议庭并未裁定西雅图的DEI项目是否违反了宪法或联邦反歧视法。相反，法院认为，这些指控足以让陪审团决定该市实施这些倡议的方式是否造成了种族敌对的工作环境。这一裁决并未解决关于西雅图基于种族的计划所涉及的更广泛

华盛顿方面拒绝给予人工智能企业制定安全标准的豁免权。

Anthropic首席执行官达里奥·阿莫代伊呼吁给予人工智能企业反垄断豁免，以便它们共同制定安全标准，这一主张在华盛顿遭到质疑，政策制定者正在质疑科技领导人的意图。多年来，国会屡次未能通过人工智能监管法规，但一些议员对在华盛顿无所作为之际让科技公司牵头制定规则的想法表示反对。华盛顿和硅谷都面临越来越大的压力，需要采取更多措施防范人工智能的灾难性风险，但双方都缺乏足够共识，结果演变成相互推诿。 本周

特朗普签署行政令 将AI更名为超级智能SI

美东时间周二（9月29日），美国总统特朗普正式签署行政令，下令所有行政部门和机构使用“超级智能”（Super Intelligence，简称SI）一词代替人工智能（AI）。 白宫在一份情况说明书中表示，特朗普签署了题为 “开启超级智能时代”的行政命令，旨在“认可不断进步的技术前沿及其为美国人民带来的无限希望” 。 命令规定，行政部门所有机构和部门在官方信函、公共沟通、政策和其他文件中必须使用新术语

特朗普与科技高管签署“道德约束性”AI文件

Anthropic、OpenAI、SpaceXAI 和 Google 因呼吁“加快”人工智能（AI）的发展而遭到起诉。

该诉讼指控，关于需要“控制人工智能前沿发展节奏”的言论，构成了竞争对手之间的非法协调行为。 加利福尼亚州萨克拉门托——根据周五向联邦法院提起的一项民事诉讼，人工智能巨头Anthropic、OpenAI、SpaceXAI和谷歌正面临串通指控。此前，业界曾呼吁协调放缓人工智能的发展。 诉状称，Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）本月早些时候公开呼吁进行“全行业协调”，

中国的人工智能竞赛如何缩小就业市场，迫使工人从事低薪体力劳动

四年来，北京的张克莱尔（Clare Zhang）在一家企业咨询公司担任研究分析师，帮助公司评估计划上市项目的技术和竞争对手——直到去年年底，她被告知人工智能减少了公司需要且能够负担的分析师数量。 她的工作包括梳理公司文件和公开记录，撰写有时长达500页的市场和竞争对手研究报告。但人工智能能够以更短的时间收集和组织信息、分析数据并生成图表。 张女士表示，公司人力资源部门在解雇她时明确提到了人工智能，

加州颁布针对儿童社交媒体新限制

加州州长加文·纽森周四签署法律，实施新的科技公司限制措施，禁止16岁以下儿童接触社交媒体平台上具有行为成瘾性的功能，并禁止含有AI伴侣聊天机器人的玩具。

并非所有人工智能工作者都认为这项技术会杀死所有人

。并非所有在大型人工智能公司工作的员工都认为这项技术意味着人类的末日。 在文字交流和对话中，多位曾在OpenAI、Meta和DeepMind等公司工作过的人士对“不受限制的人工智能发展将导致大规模杀伤性工具出现”这一观点持怀疑态度。 对于近期业内人士发出的一连串高调警告，BBC收到的反应包括“哈哈”、“笑死”以及“纯属搞笑”等。 尽管这些担忧由来已久，但前Anthropic员工雅各布·考克森（Ja

美国AI巨头提议开发减速，欧洲同行和政界并不认同

Anthropic前研究员辞职示警：业界坚信AI可在2030年前灭绝人类

人工智能（AI）巨头Anthropic公司旗下的三位研究人员警告，开发AI的业界人士真心相信人工智能可以2030年前毁灭人类，其中一位研究人员考克森（Jacob Coxon）已辞职以示抗议。考克森9月9日（周三）在网上发文表示，他辞职是因为Anthropic和他的前雇主OpenAI皆忽视或对AI带来的威胁处理不当。 据《卫报》报道，「这两家公司（Open AI与Anthropic）都没有尽到应有的

马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了

美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。” 现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。“话虽如此，但我总觉得它们还是会不时进行软件更新。” 近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉

前联邦贸易委员会主席汗援引1934年先例，敦促美国政府给AI首席执行官们戴上手铐

前联邦贸易委员会主席莉娜·汗希望联邦政府明白，应对人工智能威胁无需等待新立法。她认为，现行法律和法规——包括一项已有92年历史的最高法院判例——已经可以用来追究人工智能公司乃至在某些情况下其高管的责任。汗周日在X平台发表上述言论之前，OpenAI、Anthropic、微软和xAI的领导层展开了一系列密集活动，其目的只能被形容为试图将监管者逼入墙角，迫使他们让步。 这位前拜登政府的反垄断先锋列举了大

美联邦上诉法院维持裁决 Anthropic被排除出军方供应链

美国联邦哥伦比亚特区巡回上诉法院周五以2比1的裁决，驳回了Anthropic 对五角大楼将其列为“供应链国家安全风险”的异议，维持了将其排除在军方供应链之外的裁定。（路透社档案照） （华盛顿26日综合电）美国联邦上诉法院于周五维持了国防部将AI开发商Anthropic从其供应链中移除的决定，为特朗普政府在这场有关军方使用前沿AI模型的标志性法律争议中赢得重大胜利。 此次裁决由美国哥伦比亚特区巡回上

人工智能已经在损害人类生活。我们却让它先行一步

人工智能工业复合体正陷入混乱，此前其多名高管和工程师警告称，这项技术可能杀死部分或全部人类，甚至可能在2036年大选之前。这可能是真正值得警惕的理由，也可能只是高明的营销。无论如何，人工智能已经在通过美国政府所鼓励的环境破坏伤害人类。我们不需要十年就能看到影响。 如今名字颇具讽刺意味的美国国家环境保护局周一废除了拜登政府时期制定的要求化石燃料发电厂削减未来碳排放的规定。它还提议将否认气候变化作为政

特朗普为何要给AI改名？黄仁勋、马斯克都已改口叫“SI”

行政令写道：“随着这些能力的不断提升，它们所代表的已不仅仅是AI，而是一个‘SI’的新时代。”在美国公众日益担忧人工智能（AI）的风险之际，白宫发布行政令，将AI更名为超级智能（SI，即Super Intelligence）。 当地时间29日，特朗普签署了上述行政令。该行政令显示，“SI”这一术语能更准确地概括这项快速发展的技术的能力，因为它所做的“远不只是模仿或自动化人类智能的某些特定方面”。行

人工智能灾难日益逼近

Anthropic、谷歌和OpenAI都对生物安全感到担忧。它们已制定保障措施，防止其系统被滥用，但这些限制并不完美。 唐纳德·特朗普下令联邦机构停止使用Anthropic的人工智能技术，同时要求该公司与政府合作六个月。

加州民主党人：“我们需要与人工智能进行一次安全暂停”

加州民主党众议员乔治·怀特赛德斯（George Whitesides）周一表示，在美国科技行业和国会议员纷纷呼吁对人工智能（AI）进行监管之际，美国需要对AI采取“安全暂停”。怀特赛德斯在接受NewsNation频道布莱克·伯曼（Blake Burman）在“国会山”节目中的采访时说：“我正在阐述我们如何发展AI的愿景。”“我认为，根据我在航空航天行业的经验，在处理事故恢复和事故流程方面，我们需要

大卫·马库斯：大科技发明了AI末日来逃避现实生活中的问题

仿佛美国人还没有足够的担心--维持收支平衡和规划未来--世界上最大的人工智能公司的负责人现在警告说，他们的突破性技术可能会让我们没有未来。我们可能都会死。 鉴于我们刚刚度过了气候变化和COVID-19，这确实是一种耻辱。现在这个？也许我们可以关闭人工智能两周来拉平曲线。 本周，民主党人不顾一切地加入这支垂死的潮流，做他们一直在做的事情--监管工业至死并阻碍增长。 桑德斯对可能为外国广告商提供优势的

加州新社交媒体法律瞄准成瘾功能

加利福尼亚州州长加文·纽森周四签署了一系列新法律，旨在保护儿童免受网络风险，尤其是社交媒体平台的影响。 这13项新法律旨在确保未成年人的网络隐私，并包括对16岁以下用户使用成瘾性社交媒体功能的限制。 这些措施禁止社交媒体平台向儿童展示被视为“心理剥削性”的功能，包括无限滚动、算法推荐和自动播放，这些设计旨在鼓励强迫性使用。 另一项法律规定，对任何描绘未成年人性行为的数字修改或人工智能生成内容实施刑

微软发布“人本主义人工智能行为准则” 强化伦理红线

面对全球范围内对高阶人工智能潜在失控风险及技术替代人类主导权的日益担忧，科技巨头微软公司正式对外公布了一套全新的框架性规范——《人本主义人工智能行为准则》（Humanist AI Code of Conduct）。该准则确立了一系列具有约束力的内部开发与产品部署铁律，旨在确保前沿人工智能系统的研发始终服务于人类自主权、尊严与社会福祉，坚决防止技术演进滑向剥夺人类决策权或破坏社会基本契约的极端轨道。

高喊“AI踩刹车”的美国大科技公司…背后却在踩油门

▲ 美国人工智能（AI）公司安特罗匹克的标志前摆放着小模型 /美国人工智能（AI）企业的掌门人提出“放慢AI开发速度”的主张，但提出这一主张的企业本身却在加快开发新一代AI模型和建设数据中心的步伐。这与为了减少AI失控风险而一起“踩刹车”的提议背道而驰，实际上在开发现场，为了率先推出更出色AI的领先竞争丝毫未减。 中国更是加大力度，为人工智能这一能减少对人类研究者的依赖、自主学习和发展的技术投入巨