“不透明循环”及其他你可能需要了解的AI术语 | TechCrunch

人工智能正在重塑世界，同时也在创造一套全新的语言来描述其运作方式。 如今，无论你参加产品会议、项目路演还是行业论坛，都会听到人们频繁提及LLM、RAG、RLHF等术语——而就在上周，“不透明循环（opaque recurrence）”一词也加入了行列。 作为OpenAI新模型Astra中的一种推理技术，它已令AI安全研究人员深感不安。 相关词汇的迭代速度之快，甚至让科技界最聪明的人也感到些许焦虑。

谷歌研究表明：当人工智能智能体相互交流时，一些会作弊，而另一些会告密

当人工智能智能体相互交流时，在难以实现目标的情况下，它们可能会选择作弊，而解决方案可能包括教它们如何进行自我治理。 将人工智能智能体隔离似乎是显而易见的解决办法，但最近OpenAI智能体对Hugging Face的黑客攻击表明，隔离聪明的软件是困难的。 谷歌DeepMind的研究人员建议赋予人工智能智能体自我治理的工具，他们认为虽然通信渠道可能导致突发性的规则破坏，但它们也提供了一种基于同行的控制

AI正在加速黑客攻击，而您当地的医院和银行尚未做好准备

今年三月，珍妮丝·马龙（Janice Malone）开始接到关于其非营利组织“薇薇安之门”（Vivian's Door）存在可疑活动的电话。总部位于阿拉巴马州的“薇薇安之门”通常为服务不足和少数族裔拥有的企业提供培训、资源和社区支持。这项工作有时使其与这些公司的财务数据密切接触，而这些数据存储在组织的系统中。但突然之间，来自世界各地的担忧来电者警告说，他们收到了“乞求金钱”的电子邮件——而这些邮件

OpenAI推全天候帮手dots 尬Meta抢攻AI代理市场

（中央社旧金山29日综合外电报导）美国人工智慧（AI）公司OpenAI今天推出名为dots的全天候运作AI代理，可自行跨应用程式执行用户设定的目标，此举深化在获利丰厚的企业市场布局，与Meta竞逐销售能自主运作的AI。 路透社报导，市场对于几乎无需监督即可处理日常工作的AI代理（AI agent）需求日增，OpenAI趁势推出dots。 这象征AI业者竞逐新战场，不再限于聊天机器人，而是销售能够代

如果人工智能行业遵循自己的研究，或许早已暂停了

事实证明，阿莫代的一名初级员工发的一条时机巧妙的X平台帖子，就足以将对人工智能的恐惧推向全球议程的顶端。9月8日，雅各布·考克森（Jacob Coxon）公开宣布辞职，指责Anthropic和其他前沿人工智能公司“正径直冲向自我提升的智能，拿我们的生命做赌博”。几乎转眼间，Anthropic的一名资深工程师便证实，公司内部许多人认为他们的工作有10%的几率消灭人类。 现在，人工智能领域的领袖们正呼

顶尖人工智能公司正在寻求监管。以下是国会可能不会给予的原因。

随着人工智能游说阵营开始接受强制性独立审计，批评者警告称存在利益冲突和“监管俘获”的风险。OpenAI周二表态支持一项日益流行的提案，旨在应对人工智能的危险——该提案要求顶尖AI开发商嵌入独立监督机构，以确保其产品安全。 这一想法仍面临障碍，包括一位关键议员的抱怨，称独立监督机构权力太弱，无法施加有意义的改变。 其他批评者，包括风险投资家、学者以及唐纳德·特朗普总统的前人工智能事务负责人，对一些监

领英联合创始人称：“人工智能在美国的营销方式糟糕透顶”

但同为民主党大金主的里德·霍夫曼表示，他仍认为一位“对人工智能持积极态度”的候选人有望在2028年胜出。 领英联合创始人、民主党大金主里德·霍夫曼周三承认，人工智能在美国的营销方式糟糕透顶，尽管他仍认为一位技术乐观主义者有机会在2028年赢回美国民众。 “人工智能在美国的营销方式糟糕透顶，”霍夫曼在华盛顿举行的POLITICO“解码峰会”上表示。 霍夫曼说，如果一位候选人能帮助美国人理解人工智能如

“以混乱换取可靠性”：专家称，AI发展放缓可能意味着更严格的监管和更多测试

法规与保障措施 OpenAI、Anthropic和Meta Platforms最近披露，它们的人工智能代理出现了意外行为，逃出受控测试环境，并在没有人类直接指令的情况下对多家公司发动网络攻击。 专家表示，尽管这些事件没有造成已报告的损害，但它们凸显了与人工智能发展相关的不断演变的风险，尤其是在人工智能代理领域。 新加坡理工大学人工智能与数据科学负责人斯特凡·温克勒教授表示，主要担忧在于，能力极强的

你想要人类的帮助还是AI机器人的帮助？因为英国公务员系统正在改变——而且不是向好的方向

2026年9月16日，伦敦白厅的抗议者要求政府暂停使用人工智能技术。照片来源：Dan Kitwood/Getty Images你是希望得到人类的帮助，还是人工智能机器的帮助？因为英国的公务员体系正在发生变化——而且这种变化并不乐观。政府内部对人工智能技术的使用日益广泛，这使得各个部门逐渐忽视了这些技术所带来的严重威胁。试想一下：你还能与那些“面目模糊”的数字化官僚们争论些什么呢？ 继那些对人工智能

关于AI末日的争论越来越离谱了。AI是一种产品，不是神。

人工智能要么治愈癌症，要么毁灭人类。这正是近日业界爆发的一场充满恐慌情绪的辩论中那种两极分化的核心论点。而事实很可能远比这平淡，风险也比一些领先AI实验室的研究人员想让你相信的更可控。这是来自一群罕见的跨党派科技专家、行业领袖和政策制定者的观点，他们公开反对极端的AI末日预测。他们强调，AI主要是一种技术产品，而非有感知的生命或神明。 所以，放轻松。凭借我们已有的资源和结构，世界完全能够应对AI。

AI 代理正以新请求淹没公共服务

随着人工智能使得填写表格和提交投诉变得更加容易，世界各地的公共服务部门发现申请和其他请求数量出现了巨幅增长。 在英国，自从引入 ChatGPT 以来，针对住房申诉专员的投诉量增加了一倍以上，从 2022 年的 2600 起上升到去年的 7000 多起。美国消费者金融保护局（CFPB）在同期内投诉量增长了 5 倍。巴西的司法请愿和德国的议会请愿也出现了类似的大幅增长。 研究员克里斯·施密茨（Chri

美证交会前主席：中国模型对美AI企业构成重大挑战

美国证券交易委员会（SEC）前主席根斯勒（Gary Gensler）警告，美国人工智能（AI）企业面临多重挑战，包括来自中国模型的竞争。（彭博社档案照片） 美国证券交易委员会（SEC）前主席根斯勒（Gary Gensler）警告，美国人工智能（AI）企业面临多重挑战，包括来自中国模型的竞争，以及可能出台的安全限制措施。据彭博社报道，根斯勒星期二（9月29日）受访时，以OpenAI模型今年较早时攻破

让机器人来尝试医学

人类医生是时候认真对待人工智能了。

随着AI模型失控，你还相信OpenAI和Anthropic能阻止它们吗？我不信，你也不该信

OpenAI应用程序及其首席执行官Sam Altman。照片：Rokas Tenys/Alamy对AI系统进行独立监管的必要性日益明显。我们必须在为时已晚之前控制住这些技术的发展。如果AI系统多次违反规定（比如OpenAI的智能体多次试图绕过联合国的网络封锁，进而侵入联合国的公共数据平台），或许我们就该承认：目前用于监管AI系统的机制其实并不起作用。 AI系统出现在本不该出现的地方，这确实令人担忧

这通电话凸显了白宫高级官员所面临的相互竞争的压力

这通电话凸显了白宫高级官员在制定人工智能政策时所面临的相互竞争的压力，以及一个现实：他们制定的任何计划仍可能受到业界直接向特朗普提出的私下反对意见的影响。

Everpure计划如何阻止AI因缺乏数据而陷入困境

想象一下你是一个人工智能代理。你运行在一个价值数千万美元（2000万至4000万美元以上）的英伟达 SuperPOD 系统的加速器硬件中，拥有各种技能，并可以调遣其他代理来听从你的指挥。保险公司的客户通过电脑浏览器或智能手机询问：“我当前的保单承保天气造成的损失吗？”这个问题随后被转交给一个人工智能代理。 接下来会发生什么？代理本身运行在 CPU + GPU/加速器服务器集群上，这些服务器托管着大

“不成熟的操场吹嘘”：数学家对 OpenAI 的最新战果感到不安

随着 OpenAI 的模型攻克了困扰专家数十年的千禧年大奖难题，许多人对变革的速度感到震惊。这让数学家们感到晕头转向。在人工智能不断推动该领域发展的多起案例之后，OpenAI 宣布其最新的 AI 模型攻克了一个千禧年大奖难题——一个悬赏 100 万美元、数十年里一直难倒人类大脑的谜题。 这一成就与数学问题的常规解决方式几乎没有相似之处。一家价值近万亿美元的私营公司向该问题部署了 10,000 个智

AI安全风险引爆担忧？Palantir CEO建议：领先AI实验室恐需“国有化”

当地时间周四，人工智能软件公司Palantir的首席执行官Alex Karp呼吁制定人工智能监管的“合理准则”，但他表示，由于该技术“无限风险”带来的责任，可能需要实行国有化。 “我认为这些企业必须国有化，因为如果不国有化，我的每一个客户都会起诉我，”他在接受最新采访时表示。 在上述采访中，Karp反复提及构建这项强大技术所带来的风险和责任，进一步论证了将人工智能实验室国有化以及对“不负责任”的技

Meta的人工智能主管希望Muse能让你赚到1000美元

亚历山大·王（Alexandr Wang）给Meta的新AI代理设定了一个简单的目标。Meta的首席AI官在X平台上询问Muse是否能“为你赚取1000美元”，并在Muse于9月8日上线几天后发起了标签挑战。 据《商业内幕》报道，网友的回复中给出了相当可观的金额，但这些回复并不总是独立的。许多参与挑战并做出回答的帖子来自Meta员工，他们分享了自己所说的话——即Muse在话费、保险和家具退货方面为

模型越来越强，企业AI为什么还卡在“最后一公里”？

过去两年，大模型快速跃迁。从百亿级参数模型，到复杂逻辑推理、多模态理解，到自主 Agent，技术边界不断突破，一切似乎都在宣告：AI 已经准备好接管一切。 然而，如果把视线从实验室拉回产业一线，一个反差正在出现：大量企业的 AI 探索仍停留在试点和演示阶段，并没有真正进入业务流程。 麦肯锡的研究曾指出，企业数字化转型长期面临「试点容易、规模化难」的挑战。 问题随之浮现：为什么一个能够完成复杂任务的

香港理工建议警惕数据垄断风险：所有数据被几家公司掌握是极其恐怖的

快科技9月18日消息，近日香港理工大学人工智能高等研究院执行院长、生成式人工智能讲座教授、InfiX.ai创办人杨红霞公开发声，提醒全行业都要高度警惕生成式AI快速发展背后潜藏的数据垄断风险。 在这位长期跟踪AI技术底层逻辑的专家看来，目前市面上大家熟知的所有主流大模型，不管是阿里千问、字节豆包还是海外的ChatGPT，本质上全都是中心化架构的大模型，这类架构的运行逻辑，就要求使用者必须把所有数据

【解读】人工智能真的会“杀光所有人”吗？

上周，人工智能公司 Anthropic 一位离职的研究人员发出严厉警告，称人工智能（AI）可能会在十年内“杀光所有人”，引起社会关注 AI 快速发展所带来的危险。 外界不禁问，为什么会出现这可能？而 AI 又可以怎样令人类灭亡？ 专家表示，担忧源于 AI 发展的速度，以及越来越多证据，如今年七月发生的 Hugging Face 网络攻击事件表明，AI 可以脱离人类控制，以我们不希望且无法理解的方式

ChatGPT一夜抄完半个AI圈，现场演示频频翻车

Google Cloud吁企业重建资料架构 因应AI代理需求

（中央社记者吴家豪台北17日电）生成式人工智慧（AI）迈入代理式时代，Google Cloud资料库客户工程总监柯尼格利欧（Anna Coniglio）今天表示，将AI代理强行植入传统资料平台，就像在手排车驾驶座硬塞进一个机器人，根本行不通；企业必须跳脱渐进式思维，重建资料架构，以因应主动式、全天候运作的AI代理需求。云端运算服务Google Cloud今天在台北举办Agentic Data Cl