OpenAI 宣布其人工智能已解决纳维-斯托克斯千禧年大奖难题,这是一项潜在的历史性突破,但由于外部数学家尚未发表的研究引发了种种质疑,其光芒受到掩盖。
争议直击人工智能辅助研究的核心信任问题:研究人员能否安全地使用前沿实验室的工具来开展未公开的发现工作。
现状:OpenAI 周二表示,一个内部模型(“能力显著强于 GPT-6 Astra”)生成了三维纳维-斯托克斯方程可能在有限时间内发展出奇点的证明。
该公司表示,这项工作始于 9 月 1 日。此前,OpenAI 研究人员听到传言称两个千禧年大奖难题已被解决,于是启动了其新的内部模型来攻克剩余的问题。
在与记者的通话中,OpenAI 高管表示,他们为这项工作投入了巨大的计算能力,解决该问题的成本达到“数百万美元”,大约有 10,000 个智能体参与其中。
该方程有助于解释流体的运动方式,这可用于更好地理解从血液循环到天气模式的一切事物。
摩擦:纽约大学数学家 Tristan Buckmaster 和 Anthropic 研究人员 Levent Alpöge 一直在从事密切相关的流体动力学研究。
Buckmaster 公开质疑 OpenAI 是否顺着从他们的工作中获知 研究方向进行竞速,并对私有的 Codex 资料是否发挥了作用提出了担忧。
他还指控 OpenAI 研究人员 Sébastien Bubeck 因 Alpöge 就职于 OpenAI 的最大竞争对手 Anthropic,而极力主张将 Alpöge 从作者名单中除名。
Buckmaster 表示,当他威胁要将他们的互动公之于众时,Bubeck 据称曾说:“你为什么要毁了自己的职业生涯?”争议引发了关于谁拥有利用人工智能工具完成的工作,以及实验室是否在与自己的客户竞争的棘手问题。
视角:OpenAI 表示,在寻求证明的过程中,并未访问 Buckmaster 或 Alpöge 的特定用户数据。但该公司周二承认,无法完全排除间接联系的可能性。
OpenAI 表示:“虽然可能性不大,但我们无法排除他们使用我们产品所产生的去标识化数据有助于改进我们模型的可能。”
默认情况下,OpenAI 表示不会利用企业客户的输入或输出进行训练。个人 ChatGPT 账户的用户可以选择不让自己的对话被用于训练。
他们的观点:“既然我们能看到他们的工作,这些方法似乎有所不同,”OpenAI 首席执行官山姆·奥特曼(Sam Altman)写道。奥特曼承认,在听到 Anthropic 的模型已经解决了一个重大数学问题的传言后,OpenAI 才启动了这项工作。“我们很好奇我们的模型是否也能做到。”OpenAI 表示,它无意索取 100 万美元的千禧年大奖,而是将这一结果视为其最先进系统改进速度有多快的证明。
这场争议引发了更广泛的呼吁,要求企业将敏感数据和知识产权远离主要的人工智能实验室——Palantir 首席执行官亚历克斯·卡普(Alex Karp)在 CNBC 的一次病毒式采访中将此称为“主权 AI”。
模型路由公司 TrustedRouter 的创始人约瑟夫·佩拉(Joseph Perla)对 Axios 表示:“这就是所有实验室每天都在做的事情。阅读你的聊天记录并复制创意。”
Mady 的思考:令人震惊的是,在听说外部科学家(包括一名 Anthropic 员工)已经接近取得突破后,OpenAI 竟然花费了数百万美元的算力来追逐数学突破。
这一事件引发了一个令人不安的问题:当向科学家提供人工智能研究工具的公司同时能够调动远超他们的庞大资源来与他们竞争时,会发生什么?
底线:关于人工智能公司对你的工作和工具使用情况了解多少的争端才刚刚开始。