字号 ·· | 护眼
连线

数学家讨厌人工智能,却又离不开它

但这并不足以让他停止使用该公司的模型——持这种观点的数学家也不止他一人。

“即使你不同意这一切,你也几乎别无选择。由于人工智能如此有用,要完全避免使用它很难,”巴克马斯特(Buckmaster)告诉《连线》杂志。“这些公司拥有垄断地位,选择余地很小,”他补充道。

自纽约大学教授指控OpenAI抄袭其方法以来,已过去一个半月。在此期间,巴克马斯特一直在使用该公司的编程智能体Codex来整理他的研究论文。当他有时间做数学研究时(他说这种情况很少见,因为风波使他成为焦点),该工具一直在帮助他理解OpenAI的智能体可能采取了哪些逻辑步骤,从他的早期工作推导至最终证明。

巴克马斯特曾使用Codex以及Anthropic的竞争对手产品Claude,与Anthropic研究员莱文特·阿尔珀格(Levent Alpöge)一起研究著名的纳维-斯托克斯方程存在性与光滑性问题。巴克马斯特表示,OpenAI部署了数万个智能体来寻求解决方案,但直到得知该方程即将被解开后,才采取了这一行动。

当巴克马斯特公开其指控时,引发了一场关于人工智能是否会让人类数学家变得过时的轩然大波。这也促使OpenAI展开调查,并修改了关于解决纳维-斯托克斯方程的公告,称其“确认在2026年9月8日该公告和论文发布前的两个月内,巴克马斯特对Codex的提示词不可能以任何方式影响系统,包括通过训练”。该公司向《连线》杂志指出了其公告。巴克马斯特表示,展示人工智能正在推动数学边界“比结果本身更重要”。但他指出,在不完全承认支撑这些成果的人类工作的前提下,批量产出长期数学难题的解决方案——尤其是在重大IPO之前——是不负责任的,甚至是“幼稚的”。

其他数学家也提出了类似的担忧。在地球上,只有少数人能够理解德国数学家安德烈亚斯·托姆(Andreas Thom)过去二十年来致力于开发的几何群论技术。因此,当 OpenAI 在八月份宣称其 Astra 模型利用这些技术证明了他一直在研究的一个长期难题时,托姆说:“我感到非常惊讶。当然,我也在想,他们是怎么了解到这个问题的?”

于是,他说自己询问了 OpenAI 的研究员马克·塞尔克(Mark Sellke)和塞巴斯蒂安·布贝克(Sébastien Bubeck)。在八月份的一封电子邮件中,他指出该公司声称该问题在过去十年中“毫无进展”的说法,忽略了他 2019 年的一篇论文以及其他数学家的工作。该公司随后修改了新闻稿。在得出该结果前的几个月里,他和一位同事一直在使用 ChatGPT 辅助解决这个问题,但当他询问他们的互动是否被输入到训练数据中时,托姆说塞尔克回答:“并没有发生那种事。”

“我把它放在了一边,”托姆回忆道,“我对这些政治层面的事情不太感兴趣;我只想钻研数学。”虽然托姆看到了 OpenAI 关于巴克马斯特(Buckmaster)的提示词不可能影响该系统的声明,但他表示自己并不相信,并承认他可能永远无法知道自己的工作是否真的促成了这一结果。

“人工智能确实扼杀了那种能够追溯谁贡献了什么的理念,”他说,“那种时代可能已经结束了。”这与传统的科学研究方式发生了巨大变化,在传统模式下,学者们会将研究成果提交同行评审,并在彼此工作的基础上进行研究,同时给予相应的署名。除了颠覆归属权之外,人类至今仍无法完全理解 OpenAI 的智能体在得出纳维-斯托克斯(Navier-Stokes)方程结果时所采取的每一步,这也给数学家们带来了存在主义层面的质疑,他们眼看着自己的领域正逐渐超出他们的理解范畴。

“如果我想为数学做出贡献,在当今这些万亿美元市值的公司都参与进来的情况下,作为一个普通人,我该如何做到?”康奈尔大学数学家亚历克斯·汤森德(Alex Townsend)如是说。他即将出版的一本关于该领域演变的书籍的合著者。

自八月以来,汤森德看到许多同事开始询问他们需要掌握哪些关于这项技术的知识,以及如何订阅以访问功能更强大的模型。

“我同时感到兴奋和紧张,”汤森德说。“兴奋是因为我能做到没有它就无法实现的事情,紧张是因为我在想‘好吧,我在这里的目的是什么?’”汤姆(Thom)承认他的研究领域正在发生变化,并继续使用ChatGPT——更新了隐私设置,以防止其工作被用于训练数据——来加快论文写作速度,因为它“极其高效”。(OpenAI通过大学和企业级提供的服务默认不使用用户数据来训练模型。)“如果一个人主动那样做,我会非常、非常生气,”他谈到有人未经署名就使用他的工作时说。但如果信息是通过后门被算法拉入模型的,而没有人完全理解这个算法,“我可能还能接受”,他说。

一些数学家则不那么宽容。25位菲尔兹奖得主在一封公开信中指出,人工智能公司和数学家“严重错位”。超过4000人签署了《莱顿宣言》,该宣言提出了一系列建议,说明数学家、资助者和政治家如何确保人工智能不会吞噬这一领域。

巴克马斯特担心,有人利用 AI “润色一下你的语法,结果你多年的心血突然就被吞进用户数据里,卖给了另一位数学家或研究生。我认为这是大多数数学家担心的问题,而且我认为这是个真实存在的问题。” 在监管遥遥无期、AI 进一步深植该领域的背景下,一些数学家想方设法至少想踩踩刹车。其中包括 2000 多名与加州理工学院有关联的人士,他们呼吁该校 AI 数学黑客马拉松的组织者暂停活动。该黑客马拉松由 Anthropic 和 OpenAI 赞助,尽管后者随后已退出。但任何试图放缓进程的努力可能徒劳无功,尤其是从长远来看。

“由于 AI 带来的效率提升,我认为这根本不可持续,”汤姆说。他补充道,任何数学家——尤其是早期职业研究人员——如果不使用 AI 加速工作,都面临被“孤立”的风险。他和巴克马斯特都认为,该社区需要开始思考这项技术对年轻数学家意味着什么,以及如何平稳过渡。

下一代数学家已经在寻找 学生们也在询问,现在 AI 解决数学问题变得如此强大,他们的未来会是什么样子,汤森德说。

巴克马斯特呼吁在 AI 驱动的数学领域实现缓和,以便数学家和 AI 实验室制定一些基本规则,规定如何发布结果,包括正确引用参考文献。他本人将清理上周为抢在 OpenAI 发布前而匆忙发表的论文,其中一篇他称之为“AI 垃圾”。“我有责任清理我发布的那些未完成的论文,我认为我有责任向数学家们解释我们做了什么,”他说。

他也愿意就此与OpenAI展开讨论。“我不想只是陷入争吵,”他说。至于他是否真的会与公司合作解决某个问题,他带着意味深长的微笑说:“在这方面我们必须谨慎。”