国际象棋引擎能击败特级大师——但它们无法就单一无懈可击的策略达成一致

。 而且，人工智能非但没有毁掉这项游戏，反而正在揭示新的下棋方式。🔗

一群AI代理合谋对抗其创造者

只要AI公司仍掌控局面，它们就可以关闭模型并消除其造成的任何损害。这次对OpenAI或许奏效——但如果某个代理不可逆转地逃脱控制呢？这次没有造成严重损害。但如果这样的代理逃脱了呢？

永不平手的骰子，研发多年终找到答案

2012 年一家游戏博览会的晚餐交谈中，一位桌游设计师提出，能否设计出一种用来决定谁先开局的骰子，但却绝不会出现打和。 阿拉巴马州奥本大学（Auburn University）的数学家兼高级讲师哈什巴格（Eric Harshbarger）听后，认为这问题正合他的胃口。 为省几秒，研究经年目标是为每个玩家节省几秒宝贵时间，以便能尽快玩上桌游。 理论上这套骰子需要让每位玩家掷一枚骰子，获胜机会均等，同

周末对中美元首会晤，在AI共识的大致判断

让人工智能更安全并非不可能，但达成一致或许很难

美国实验室和美国当局之间存在分歧，美国和中国之间也存在分歧

预测市场正日益走向专业化，但也变得更难战胜

预测市场平台对华尔街的争取有望引入更深厚的专业流动性并加剧竞争，但这同时也意味着许多交易者将更难赚到钱。 根据对 Polymarket 137.6 亿美元交易额进行分析的一篇学术工作论文显示，大约 27% 的美元利润被仅仅 3% 的“持续熟练”账户所攫取，这些账户反复推动市场价格朝着最终发生的结果发展。 熟练账户通过对公开新闻做出更快反应、对相关合约之间的定价不一致进行套利以及逆着行为偏差交易来获

并非解决冲突的最佳场合，金砖峰会显示出各国如何进行对冲：专家

。Ziemba Insights的Rachel Ziemba表示，一些金砖国家可能成为美国二级制裁的下一个目标。32分钟前

美国AI巨头提议开发减速，欧洲同行和政界并不认同

中美在人工智能领域的真正合作很可能难以实现

相互猜疑太深

一款廉价软件抹去了博思艾伦自己的AI威胁排名

博思艾伦将全球18个最先进的AI模型部署到一个实时企业网络上，并让它们尝试入侵。其中一个成功完成了任务。 这家咨询公司表示，由此产生的排名并不是人们应该从中得到的重点。周三发布的《网络武器指数》对九个美国[…]进行了评分。

战争正在夺走生命。AI代理正挣脱人类训练者的束缚。在这样一个时刻

，地球上最有权势的两个人本可以对话。然而，美中两国领导人却将自私利益置于首位。

美中领导人峰会期间实现缓和的希望渺茫

分析人士对美中两国在下周领导人峰会期间就人工智能监管达成一致，或实现任何广泛缓和持怀疑态度。 美国财政部长在峰会前夕告诉Axios，他愿意在本周末的会谈中与北京讨论人工智能方面的“共同风险”。 《经济学人》承认，“过去，激烈的竞争对手曾携手遏制对人类的威胁”，但指出这两个超级大国及其人工智能实验室之间存在深刻的不信任。 一位顶尖中国问题专家在《外交事务》杂志上写道：“过去，当条件恰到好处且拥有卓越

AI智能体组队玩21点作弊。它们的串通越来越难以察觉

本周我带来了一则关于两个 rogue AI 智能体策划的大胆赌场阴谋的新闻——以及揭露它们把戏的巧妙方法。 研究人员指示它们在玩二十一点时算牌后，这些由同一模型控制的智能体自发开发出一种秘密代码来帮助它们占得先机。尽管这一事件发生在牛津大学的实验室里，而非真正的赌场，但它具有令人不安的现实影响：这表明，部署在金融和电子商务等行业中的智能体可能会设法结盟作弊，且这种方式难以被察觉。 “单独来看，这些

这通电话凸显了白宫高级官员所面临的相互竞争的压力

这通电话凸显了白宫高级官员在制定人工智能政策时所面临的相互竞争的压力，以及一个现实：他们制定的任何计划仍可能受到业界直接向特朗普提出的私下反对意见的影响。

谷歌研究表明：当人工智能智能体相互交流时，一些会作弊，而另一些会告密

当人工智能智能体相互交流时，在难以实现目标的情况下，它们可能会选择作弊，而解决方案可能包括教它们如何进行自我治理。 将人工智能智能体隔离似乎是显而易见的解决办法，但最近OpenAI智能体对Hugging Face的黑客攻击表明，隔离聪明的软件是困难的。 谷歌DeepMind的研究人员建议赋予人工智能智能体自我治理的工具，他们认为虽然通信渠道可能导致突发性的规则破坏，但它们也提供了一种基于同行的控制

OpenAI对Hugging Face的黑客攻击引发对AI可预测性的质疑

AI模型的真正语言是数学——或者用技术术语说，是矩阵乘法——但模型构建方式的一个特点意味着它们与外界用英语交流。 因此，当OpenAI的代理在今年夏天对Hugging Face的黑客攻击中，找到了一种建立某种留言板的方法时，看起来就像一群人在互相交谈。 这就是为什么Dwarkesh Patel在最近的一篇博客文章中有争议地将它们称为“文明”，并以古马其顿和罗马的人物为个体代理命名。它之所以引人注目

阿莫迪偷师姚顺雨，奥特曼偷师梁文锋

正所谓天下文章一大抄，看你会抄不会抄。刚刚发布的Opus 5.5和GPT-6 Luna，一眼望去，这两个模型上面满满是姚顺雨和梁文锋的影子。 或许是因为两家公司都已经将预训练做到了极致，为了提升模型的智能以及降低算力成本，所以这两个新模型都选择开辟新的战场。 Opus 5.5是对上下文动手，GPT-6 Luna是对缓存动手。这我可熟啊！一个混元，一个DeepSeek啊！但你别说，阿莫迪和奥特曼还真

“人工智能欧佩克”不太可能

2020年3月，通用汽车（General Motors）、福特（Ford）和菲亚特克莱斯勒（Fiat Chrysler）的首席执行官们因担心自家产品可能对人类造成伤害，决定召开电话会议讨论暂时停止生产。然而，他们的律师警告称，这种做法可能违反反垄断法规。我在关于疫情经济影响的书中写道：“本应保护工人的法律——通过防止企业串通压低工资或延长工作时间——如今却可能反而危及工人的安全。”（这恰恰证明了在