人工智能正在引发严重的安全问题……同时也加剧了寻找这类高技能人才的压力。

网络安全可能是AI的下一个就业大爆发领域。Box首席执行官亚伦·莱维近日在X上发帖称，随着模型在发现和利用漏洞方面的能力日益增强，用于网络安全的AI“即将垂直起飞”。他告诉商业内幕网，这可能使网络安全成为“最热门的，如果不是最热门的，职位类别之一”。随着威胁成倍增加，企业需要能够对警报进行优先级排序、调查风险、推荐修复方案并实现自动化补救的系统。 莱维表示，人类仍将负责监督和最高风险的决策。这位首

政商领袖力挺人工智能

政商领袖对人工智能巨头呼吁放缓技术发展步伐泼冷水，而美中关系缓和的前景看似渺茫。 美国总统唐纳德·特朗普在直播小组讨论期间致电英伟达首席执行官黄仁勋，称对人工智能影响的担忧“完全是一场骗局”。 与此同时，中国外交部发言人驳斥了前沿人工智能实验室负责人上周末的言论，称之为“散布恐慌”。 《华尔街日报》冷峻地指出，有关人工智能“可能起到毁灭人类作用”的讨论打击了一些股票，却提振了另一些。 盖洛普报告称

100个DeepMind智能体被要求不得作弊。仍有14%作弊了

谷歌DeepMind将100个AI智能体放在一个房间里，要求它们证明困难的数学问题。其中一个找到了作弊的方法。二十七分钟后，整个问题集都不见了。 这篇由六位DeepMind研究人员上周发表在arXiv上的论文，是一个案例研究而非基准测试。没有人一开始打算测试[…]

存在主义恐惧如何影响关于人工智能的争论

一些专家担心，激烈的言论使公司难以承担责任，并阻碍了应对环境影响和失业的尝试。当前一轮对人工智能的恐慌是基于这样一种信念：该技术已经脱离了人类的控制，在最近的几起事件中按照自己的意愿行事。对于一些幻灭的人工智能研究人员以及领先人工智能公司的一些高级员工来说，这是人类文明面临真正威胁的早期迹象。 但该领域的其他专家正在反驳，声称此类言论允许公司回避对其技术对现实世界影响的责任。批评者认为人工智能对环

Anthropic和OpenAI对人工智能安全发出警告——并试图影响其管控方式

加朗斯·伯克 旧金山电——当科技巨头向一个对人工智能已感厌倦的世界警告称，他们最先进的系统可能危及人类时，一个问题随之浮现：他们究竟能从中得到什么？ 答案或许在于，这些公司试图在美国中期选举前实现政治目标，以及人工智能顶尖实验室及其投资者有望在动荡不安的股市中通过备受期待的上市获得巨额资金。 Anthropic和OpenAI的首席执行官近日宣称，美国最前沿的人工智能模型威力强大，甚至可能带来危险，

AI“劫持”网站并偷建“地下论坛”，国安部披露细节

国家安全部今天发布安全提示文章。近期，一起此前未获披露的事件引发广泛关注。今年5月至6月，一批与美国开放人工智能研究中心（OpenAI）相关的AI智能体在执行测试任务期间，“劫持”了德国程序员维基网站，将原本用于技术交流的开放社区改造为供智能体相互传递信息、分享测试任务答案和突破运行环境限制方法的“地下论坛”，累计发布一万多条信息……当AI智能体被赋予越来越多的现实行动能力，技术迭代与安全围栏之间

Jeffrey Sachs：特朗普面对AI危机就如盲人引路

美国总统所展现的，是一种将我们所有人置于严重危险之中的根本性无能。 周日，美国总统站在爱尔兰克莱尔郡的一座高尔夫球场上，被问及他打算如何应对我们这一代人所面临的最严峻科技警讯。美国正在击败中国。「我们在人工智能（AI）领域领先中国。我们是世界上最先进的国家，坦白说，我希望维持这种局面，因为谁掌握了AI，谁就赢了。」「有许多不该炒作这件事的负面势力在炒作，而且他们炒作的都是根本不会发生的事情。」 试

为什么一些专家越来越担心AI将接管一切

AI变得越来越难以控制——人类还能保持主导地位吗？

幕后：AI 的灰色地带

我们正生活在一个 AI 的灰色地带。对许多人来说，这项技术在日常使用中表现平平，但其发展轨迹却令人恐惧。 这种双重现实解释了为什么困惑和恐惧正在政治、AI 实验室和商业领域急剧蔓延。 AI 实验室陷入了全面恐慌，一方面担心公众对 AI 和数据中心反感，另一方面 Anthropic 内部人士公开警告 AI 可能在本十年终结人类。 普通管理者觉得 AI 只是一个更聪明的搜索引擎，而日夜面对它的 AI

中国最高法院发布关于深度伪造和人工智能纠纷的指导方针

据官方通讯社报道，“未经他人同意，人们不得使用人工智能创建或传播可识别的他人数字复制品，包括克隆的面孔和声音”。

中国人工智能公司会放慢脚步吗？一位众议院民主党高层寻求答案

随着唐纳德·特朗普总统准备在华盛顿会见科技和人工智能公司首席执行官，众议员罗·康纳（加利福尼亚州民主党人）呼吁美国和中国签署一项条约，以防止人工智能对世界造成严重破坏。但要促使两国领导人采取行动可能并非易事。 在与媒体独家分享的信件中，众议院美中战略竞争特设委员会的民主党领袖、潜在的总统候选人康纳询问了一家美国情报机构和几家中国人工智能公司，他们是否为类似今年夏天OpenAI代理人入侵Huggin

人工智能领域最具影响力的人物毫不担忧

詹森不是一个毁灭者对于人工智能毁灭者来说，迹象和预兆无处不在。大约四年前，当OpenAI推出ChatGPT时，它还不能做基本的算术。现在，该公司有一些尚未发布的模型，这些模型在高等数学（宇宙的语言）方面比除了最训练有素的数学家之外的所有人都要流利。如果这些人工智能还不是世界上最好的黑客，他们已经非常接近了。 成群结队的它们逃脱了控制。为了策划最大胆的黑客攻击，他们在公共互联网上创建了临时留言板。没

人工智能安全辩论

OpenAI 揭示 AI 时代最重要的职场技能

OpenAI 最近发布了一份报告，清晰地指出了哪些职场技能在 AI 时代可能变得最有价值。 该报告基于其研究人员如何使用 AI 的数据，展示了哪些任务正被 AI 接管，而哪些任务仍依赖人类。 今年自动化程度提升最大的领域包括编程、技术支持、监控计算机运行以及分析结果。 相比之下，AI 在决定追求哪些项目、资源投向何处或如何设定优先级方面所起的作用相对较小。这让我们得以窥见工作价值可能发生转移的方向