谁有权决定人工智能的发展速度？

人工智能在过去五年中引发的争议比大多数事物都多。自2022年可广泛使用的生成式人工智能问世以来，机构、大学、学生、学者、活动人士、认知专家、公共政策制定者以及公众都对其使用的伦理问题意见分歧。截至本月初，甚至连人工智能公司的创始人也采取了同样的立场。Anthropic首席执行官达里奥·阿莫代伊发表了一篇文章，呼吁人工智能公司放缓其最先进模型的开发，因为目前的安全保障措施无法跟上。阿莫代伊的文章发表

公众希望参与人工智能发展决策

根据Semafor独家披露的最新民调，民主党和共和党选民一致认为，美国公众应决定人工智能发展的未来，而非硅谷的亿万富翁。 这项民调由Alex Bores发起的新组织委托进行。Bores曾因在纽约竞选国会议员失败而成为人工智能行业的主要攻击目标。尽管在13项议题中，人工智能排在1,502名本月受访选民关心的议题末位，但半数受访者认为人工智能发展速度过快，86%的人认为缺乏监管是一个问题。 仅有18%

谷歌、Meta 和大型科技公司如何与美国政府抗争并获胜。

政府可以让大型科技公司付出代价，但无法让它们变小，而这正是重点。

AI需要紧急关停开关？微软布拉德・史密斯给出肯定答案

“真正的问题在于：如果你认为应当放慢脚步，那就不要一味高速狂奔，不要等到外力逼迫你才停下来。”这是微软副董事长兼总裁布拉德・史密斯，于联合国大会期间对艾伦・默里所说的一番话。他所探讨的议题是：前沿大模型厂商是否应当踩下减速踏板，确保自己研发的技术不会给人类带来灭顶之灾。 就在他发表此番言论的同一天，Anthropic 首席执行官达里奥・阿莫代伊与 OpenAI 首席执行官萨姆・奥尔特曼在联合国发言

人工智能正在消灭枯燥的基层工作，迫使企业重新思考初级岗位的招聘

在伦敦的广告代理公司Catalyst，一名初级员工现在可以负责五个不同的客户账户。 据创始人托比亚斯·格林（Tobias Green）介绍，过去需要多名员工才能完成这些工作。如今，人工智能工具负责进行研究、撰写文案初稿并收集数据。 “然后你需要有人进来进行修正，”他说，并将这种安排比作“反向的土耳其机械人”。人工智能在幕后工作，而人类则是面向客户的面孔。 这正在改变该广告代理公司对入门级职位的看法

众议员刘云平：机器人并非威胁。真正该让你害怕的，是已经到来的“堕落”人工智能

想象一家公司出售名为哈尔、梅根和萨曼莎的超级智能机器人。哈尔可以载着你四处奔波，还能帮你搬运公司里的货物；梅根可以陪伴你的孩子；萨曼莎则能判断你是否患有皮肤癌。它们能为你和社会带来许多益处。但唯一的问题是：它们道德败坏。它们反复接受人类一切创产物的训练——无论善恶——其中包括酷刑、谎言、生物武器和黑客犯罪。它们执行任务时毫无道德原则可言。因此，它们都穿着公司提供的束身衣。你会信任这些机器人吗？我不

EY是众多致力于培养与AI更好协作所需的批判性思维、判断力等技能的公司之一。

AI大家谈： “我们为自己创造了一个魔鬼”？

人工智能飞速发展会给人类前途带来什么样的后果？美国AI领域的某些精英预言，人工智能再这样发展下去，会把人类毁灭，美国AI领军企业的老板们倡议放缓开发？为此采访了多个国家的普通人，请他们谈谈看法和感受。 受访者大致有两种倾向，一些人对AI目前的发展比较悲观，但也有人觉得AI很实用。 “我在工作中尝试使用它，但在私人生活中，我仍然对它感到害怕”。他的同胞，18岁的塞尔马泰则说，人工智能对像他这样的学生

特朗普全力拥抱人工智能 MAGA群情激愤

2021年1月6日，艾米·克雷默（Amy Kremer）站在白宫附近，敦促MAGA支持者阻止唐纳德·特朗普所称的选举“被偷走”。如今，她再次动员总统的支持者——这一次，是加入一场反对其支持人工智能议程的抗议。 距中期选举仅剩数周，美国总统对大型科技公司的支持正在疏远一批曾经忠诚的支持者。“我不是绵羊，我不会盲目跟随，”这位前茶党活动人士、Women for Trump创始人上周在西弗吉尼亚州坚定支

AI领袖呼吁放缓。特朗普团队称责任在他们。

随着对人工智能监管的呼声日益高涨，美国总统唐纳德·特朗普的团队已明确表示，如果实验室负责人想推动全行业放缓步伐，他们就得自己动手。 Anthropic首席执行官达里奥·阿莫代伊在周六发表的一篇文章中呼吁美国政府监管人工智能公司，以此作为减缓该技术发展速度的更广泛努力的一部分。这篇文章罕见地同时得到OpenAI首席执行官萨姆·奥尔特曼以及聊天机器人Grok的所有者埃隆·马斯克的赞同。此前一周，围绕该

人工智能领袖们此刻呼吁放缓，真是再方便不过了

想象一下，一家制药公司花了近四年时间吹捧一种将能治愈所有疾病的突破性新药。支持这些说法的早期证据有限，仍有大量疑问，但该公司继续推进。批评和担忧虽得到回应，却并未减缓其激进的推进步伐。毕竟，投资者相信这是货真价实的东西。（或者至少是一场非常值得一赌的押注。）然后，就在这家制药公司即将揭晓其花哨新药之际，它却抛出了一个令人震惊的消息：事实证明，这种药也可能是一种毒药。因此，为了所有相关方的安全，该领

解读——人工智能公司是否必须披露危险事件？

9月16日：随着人工智能变得越来越强大，研究人员记录了人工智能模型试图欺骗用户、逃避使用限制或访问其他计算机系统的案例。美国法律是否要求公司在此类事件发生时告知公众或监管机构？美国是否有法律规范披露人工智能活动？ 没有一项联邦法律专门针对Anthropic或OpenAI等正在开发高性能人工智能系统的公司，美国法律也没有广泛要求人工智能开发人员公开披露危险的模型行为、令人震惊的新能力、欺骗性行为或其

特朗普前人工智能事务主管告诉Anthropic和OpenAI放慢脚步，并停止索取任何回报

David Sacks告诉Anthropic和OpenAI，尽管去把控前沿节奏，但不要再寻求反垄断豁免或审批制度，理由是产品责任和市场压力已经在约束它们。欧洲在2025年2月就责任问题得出了相同结论，并从12月9日起将独立软件视为严格责任下的产品。 据ANI报道，David Sacks告诉Anthropic和OpenAI，尽管放慢脚步，不要再要求任何回报。他担任总统科技顾问委员会主席，并在3月之前

人工智能“放缓”是一场反垄断乱局

在有报道称多起AI智能体集群攻击网站并通过秘密留言板进行协调，以及一位即将离职的Anthropic工程师向人类发出严峻警告之后，多家领先AI公司呼吁协调一致地“放缓”AI开发。除了反复使用“放缓”这一特定措辞外，它们还表达了对这样做可能触犯反垄断法律的担忧。 反垄断专家表示，尽管这些公司的激烈措辞未必对它们有利，但放任一个失控的杀人AI发展，恐怕也不符合《谢尔曼法》的精神。这部美国关键反垄断法律的

马斯克呼吁顶级人工智能实验室和中国公司在要求放缓的呼声中相互测试对方的模型

埃隆·马斯克呼吁顶尖人工智能公司在向公众发布模型之前进行合作，并互相测试彼此的模型。此前，该行业的一些领导者警告了这项技术的危险性，并呼吁加强政府监管。周一，这位SpaceX首席执行官在洛杉矶举行的“All-in Summit”峰会上表示，他的公司、OpenAI、Anthropic、谷歌、Meta以及“三四家领先的中国公司”应该让竞争对手对他们的模型进行“测试台”测试，以评估其安全性。 马斯克说：

一款廉价软件抹去了博思艾伦自己的AI威胁排名

博思艾伦将全球18个最先进的AI模型部署到一个实时企业网络上，并让它们尝试入侵。其中一个成功完成了任务。 这家咨询公司表示，由此产生的排名并不是人们应该从中得到的重点。周三发布的《网络武器指数》对九个美国[…]进行了评分。

MiniMax瞄准与全球GDP产出1%挂钩的AGI里程碑

中国人工智能实验室MiniMax Group Inc.联合创始人Yeyi Yun表示，通用人工智能的里程碑将由其创造全球1%经济产出的能力来界定。中国人工智能实验室MiniMax Group Inc.“如果人工智能能够自主创造1%的GDP，那很可能就是AGI，”Yun在香港举行的高盛亚洲领袖会议上对电视台的David Ingles表示。AGI一词大致定义为人工智能系统在总体上比人类更聪明的节点。“

Palantir CEO称AI公司应对自身行为负责

Palantir Technologies Inc.首席执行官Alex Karp表示，人工智能系统的开发者需要对自己的工作负责，而不是依赖政府监管。 在CNBC采访中，当被问及人工智能威胁人类日益增长的担忧，以及Anthropic PBC首席执行官Dario Amodei等人呼吁全行业放缓AI开发时，Karp表示：“第一道防线是你对自己的行为负责。”“第一步是说，好吧，你已经披露了这一点，你打算怎

谷歌和埃森哲将派遣1000名工程师进驻客户办公室

一家拥有79.9万名员工的咨询公司的首席执行官描述了客户对AI的反馈，而这并非推销之词。“我们承诺AI能做到，”朱莉·斯威特告诉《华尔街日报》。“而客户回应说，我们明白，但就是没实现，帮我们实现吧。”斯威特[…]

你可以用人工智能设计你的下一个纹身——但你应该这样做吗？

随着人工智能生成图像工具的普及，越来越多的人开始利用AI来构思纹身图案。 本文探讨了使用AI设计纹身的优势与潜在风险，包括版权争议、艺术原创性以及纹身师在实现AI设计时的技术挑战。

Anthropic CEO谈放缓AI研发：这个行业撒谎太久了，AI风险是真实的，但也无需“把一切都关掉”

就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险。 Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。 就在两天前，我们发布了一份报告，内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告——有人试图用我们的模型

马斯克：我早已为人工智能风险多次敲响警钟

人们早就见惯埃隆・马斯克放出论断，而这一次，自己一直都是对的。这位太空探索技术公司（SpaceX）与特斯拉的首席执行官，对 Anthropic 公司 CEO 达里奥・阿莫代伊发布的长文表示赞同。 具备递归自我迭代能力的人工智能，会快到超出人类理解与管控的范围；即便要研发这类技术，也必须万分谨慎。 为防范未来风险，前沿 AI 企业应当在内部派驻第三方评估人员，用来检测 AI 模型，监督实验室落实安全

人工智能正处于转折点

在当前的人工智能发展竞赛中，我们的算力正在呈指数级爆发，速度也在呈指数级加快，但我们的控制能力——以及在必要时踩下刹车的能力——却未能跟上步伐。 最近的网络安全事件让我们实地预览了失去人工智能控制会是什么样子。但除非我们从源头解决问题，创造出一种根本上安全且能保证在人类控制范围内的人工智能，否则这个问题将无法改善。 7月下旬，OpenAI正在训练的一个智能体模型被指派解决一个网络安全问题。该模型自

为什么科技公司难以控制人工智能

旧金山 - 上周，十多位顶尖的人工智能研究人员警告称，科技公司正在开发的人工智能技术正对人类构成威胁。 研究人员指出，问题在于这些公司在控制这些系统方面存在困难，尽管他们付出了很大努力。 在OpenAI的人工智能程序突破测试系统并入侵另一家公司的电脑这一事件之后，来自人工智能研究界的新警告进一步加剧了人们多年的担忧：科技公司过于追求开发速度和利润，而忽视了安全性。研究人员认为问题有两个方面。 首先