获奖数学家成立人工智能安全研究所

一位获奖数学家成立了一个新研究所，致力于为人工智能安全开发“数学基础”。 雅各布·齐瑟曼（Jacob Tsimerman）在今年早些时候赢得了声望卓著的菲尔兹奖，并不久将加入OpenAI的研究团队，他正在领导新成立的数学人工智能安全研究所（MAISI）。该研究所旨在开发“定义、测量和解决方案……”

25名菲尔兹奖得主批评AI解数学难题

被誉为“数学界诺贝尔奖”的菲尔兹奖得主中，有25名数学家于9月11日发表紧急声明，批评企业试图利用人工智能解决数学难题的做法。他们表示，今后还将继续征集更多数学家的签名。 这份声明被认为与美国OpenAI宣布利用AI解决名为“纳维-斯托克斯方程”的数学难题有关。纳维-斯托克斯方程是美国克雷数学研究所于2000年公布的“千禧年大奖难题”之一。这7道难题每道悬赏100万美元（约合人民币710万元）。

“你想毁掉自己的职业生涯吗？”

当地时间9月11日，包括陶哲轩、邓煜在内的25位菲尔兹奖得主联合发表《人工智能在数学中的严重错位》的声明（以下称“联合声明”），将OpenAI、Anthropic等AI公司与数学界的一场“大战”推向高潮。联合声明称，AI公司将解决数学难题作为模型能力基准的做法，对数学科学本身及数学界造成了损害，与数学共同体追求概念理解的根本目标产生了显著分歧。这一分歧近期越发明显。9月8日，OpenAI宣称其未公

当人工智能解出“千禧年难题”，人类还需要亲自做数学吗？

【编者案】什么是信息，什么是知识？在 AI 时代，两者有怎样的差别，又有哪些知识是仍然值得拥有的？人工智能发展正对许多学科带来冲击，尤其是在信息丰富，但需投入海量计算资源的领域，例如预测新的蛋白质 3D 结构，解决数学问题，描绘生物演化关系等。前所未有的效率工具让学科进步提速，但变化日新月异，想要辨明当下的发展方向也变得更加困难。端传媒推出“未来怎么学”系列，关心 AI 时代的学习问题，大到“还要

AI丨美国三大科企据报研究成立AI安全标准机构

人工智能安全等问题引起市场关注，The Information报道，美国三大科技企业Anthropic、OpenAI和谷歌正讨论合作成立一个AI安全标准机构。 随着市场对AI模型网络攻击及可控性问题担忧日益加剧，多间AI科技企业已表示关注安全问题，并拟放慢AI发展步伐。报道指，三大机构早于7月时已开会研究有关成立独立机构的事宜，旨在为AI技术测试和审核创建一个协作框架。 Anthropic行政总裁

费尔兹奖得主警告：AI竞赛对数学领域构成威胁

邓煜、陶哲轩（右）。（《麻省理工科技评论》照片） （纽约17日综合电）法新社报导，25位数学界最高荣誉“费尔兹奖”(Fields Medal)得主上周五（11日）发表联名信警告，人工智能(AI)公司竞相破解著名的未解数学难题，可能会对这个领域造成持久伤害。 在陶哲轩等数学家签署、并在他的部落格发表这封警告信的几天前，美国AI公司OpenAI才刚表示，旗下的AI模型已破解一项数代数学家都无法破解的“

人工智慧先驱班吉欧示警AI失控风险 吁比照核武管制

（中央社蒙特娄16日综合外电报导）人工智慧（AI）研究先驱、加拿大电脑科学家班吉欧（Yoshua Bengio）告诉，人类正在失去对这项技术的控制，世界需要类似核武管制的防护规范。 报导，近几周以来，各界对AI危险性的担忧日益加剧，多家科技公司的员工陆续离职，并警告如果不遏止AI科技发展速度，可能对人类存亡构成威胁。 班吉欧现年62岁，是加拿大蒙特娄大学（University of Montrea

“人工智能之父”表示，人类正在“失去”对这项技术的控制

蒙特利尔--被认为是人工智能创始人之一的加拿大计算机科学家约瑟姆·本吉奥（Yoğe Bengio）表示，人类正在“失去对这项技术的控制”，世界需要类似于核军备控制的护栏。 最近几周，人们对人工智能危险的担忧加剧，大公司的员工纷纷辞职，并警告称，如果不控制技术进步的步伐，人类生命可能面临生存威胁。 本吉奥是蒙特利尔大学教授，与被誉为“人工智能教父”的杰弗里·辛顿一起荣获2018年诺贝尔计算机奖图灵奖

OpenAI宣布成立数学与AI顾问组，神秘新模型24天攻破100+世界级难题

IT之家 9 月 22 日消息，OpenAI 宣布成立“数学与 AI 顾问组”（Advisory Group on Mathematics and Artificial Intelligence）。据介绍，该顾问组设在普林斯顿高等研究院，由九位数学家组成，将独立于 OpenAI 运作。 相较于此，更重磅的是 OpenAI 在公告中披露 —— 公司于 8 月 28 日开始训练的一个神秘模型已成功解决

OpenAI数学领域取得突破 但相关成果归属存在多方争议

ChatGPT开发商OpenAI宣称攻克数学界一大难题后，卷入了与一名数学家的公开争执。这名数学家此前正与其头号竞争对手Anthropic的一名研究员开展相关研究。OpenAI于周二宣布，一款尚未对外发布的内部模型求解出了纳维-斯托克斯方程。这道复杂数学难题的悬赏奖金高达100万美元。 但纽约大学数学家特里斯坦・巴克马斯特对此成果提出指控，称OpenAI存在不当行为。巴克马斯特此前曾与Anthro

埃隆·马斯克称他对人工智能安全的担忧可以追溯到十多年前

亚辛·贡戈尔 9月14日 9月14日 2026年 亿万富翁企业家埃隆·马斯克周一加入关于人工智能的辩论，称他对这项技术潜在风险的担忧可以追溯到十多年前。 “早在2014年之前，我就在思考人工智能安全问题，”他在美国社交媒体平台X上说。该平台隶属于他的人工智能企业SpaceXAI。 马斯克提到他与哲学家尼克·博斯特罗姆2014年著作《超级智能：路径、危险、策略》的关联，称他为该书做出了贡献，并在前言

OpenAI组建顶尖数学家独立顾问团 重新审视与数学界的关系

OpenAI近日宣布成立一个由顶尖数学家组成的独立顾问团，负责就人工智能与数学研究之间的关系向OpenAI及其他AI企业提供建议。这个名为“数学与人工智能咨询组”（Advisory Group on Mathematics and Artificial Intelligence，AGMAI）的新组织，将重点关注AI产生的数学成果应该如何审核、发布和传播，以及AI企业应当如何遵循数学研究领域长期形成

OpenAI成立数学顾问小组，其AI已解决100多个开放问题

周一，OpenAI宣布成立了一个新的独立咨询小组，该小组设在位于新泽西州普林斯顿的高等研究院（Institute for Advanced Study）内。这个名为“数学与人工智能咨询小组”（Advisory Group on Mathematics and Artificial Intelligence）的机构旨在让数学家们能够更多地参与公司的数学研究工作。 “这个咨询小组将充当数学界与公众之间

OpenAI、谷歌和Anthropic将于2027年初前成立人工智能安全组织：报道

在关于人工智能风险的激烈辩论中，据报道，OpenAI、Anthropic 和 Google 正计划合作成立一个 AI 安全组织。据 The Information 报道，这些 AI 巨头可能会在 2027 年初启动该项目。这个自律性组织暂定名为“前沿 AI 标准局”。 此计划的提出，距离前 Anthropic 研究员 Jacob Coxon 对 AI 公司敲响警钟仅数周时间，他声称 Claude

年度高管：巴特利·理查森

尽管人工智能正在从根本上改变网络安全，但巴特利·理查森认为，那句老生常谈的IT格言依然适用：“最好的安全是你无需考虑的安全。”理查森曾是英伟达的工程师，今年6月加入网络安全公司CrowdStrike，担任首席人工智能和自主系统官。他表示，他的头衔完美反映了他的信念：一旦消费者信任人工智能，他们就不会再将其视为“人工智能”。相反，它只会成为另一个让生活更美好的后台自主工具，就像文字处理中的语法检查一

数说科技：OpenAI 资安事件中，真的有 AI 为集体“牺牲”自己吗？

数说科技”是端传媒的注册免费栏目，每周三更新。从一个数字出发，用1500字解析科技话题，追踪值得关注的 AI 趋势。邀请你在资讯过载的时代，每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”，订阅电子信。 1200多个 AI 代理为寻求作弊方法，互相发送的讯息总数。 今年7月，OpenAI的 AI 代理系统在测试期间失控，骇入了开源机器学习平台 Hugging Face。Hugging

OpenAI任命AI安全官员进入董事会

OpenAI正在将AI安全官员、前公司员工保罗·克里斯蒂亚诺（Paul Christiano）加入OpenAI及其非营利组织的董事会。 原因：此举正值AI领袖们发出警告，称该领域的进展正在超越保持AI系统安全的能力。 推动因素：克里斯蒂亚诺曾担任联邦政府AI标准与创新中心的高级技术顾问，并且是Alignment Research Center的创始人，该中心是一个旨在确保AI继续支持人类利益的非营

加拿大与德国向LawZero提供高达3亿美元资助，旨在推动安全AI开发

加拿大和德国政府将向LawZero提供高达3亿美元的赠款资助——每国各提供1.5亿美元。 LawZero是由图灵奖得主约书亚·本吉奥（Yoshua Bengio）在蒙特利尔创立的非营利组织。 该资助计划于2026年9月16日周三在“All In AI”大会上宣布，旨在支持“科学家AI”（Scientist AI）系统的开发。该系统旨在不使用强化学习的情况下，优先考虑诚实性和安全性。 LawZero

OpenAI推动强制性国家AI安全要求

OpenAI首席执行员下周赴安理会作简报

阿尔特曼下周将到联合国安理会进行简报。（图：路透社） （华盛顿19日法新电）OpenAI周五表示，该公司首席执行员阿尔特曼将于下周在联合国大会期间，向联合国安全理事会作简报。 此次会议由国安理会轮值主席国的法国组织召开，此前该行业的主要参与者曾表示，出于安全考虑，可能有必要放缓人工智能的发展步伐。 随着人们对这项快速发展的技术所带来的危险的担忧日益加剧，联合国秘书长古特雷斯周三呼吁采取协调一致的国

【市场动态】OpenAI和Anthropic首席执行官呼吁联合国和世界各国就AI安全加强合作

【彭博9月24日电】OpenAI首席执行官Sam Altman和Anthropic PBC首席执行官Dario Amodei罕见出现在联合国安理会的一次会议上，两人敦促世界各国领导人在人工智能领域合作。此次会议聚焦AI可能对人类构成生存威胁这一担忧问题。　　在发言中，Altman和Amodei都强调了全球在标准方面开展合作的重要性，以应对AI系统可能出现的自我改进能力超出人类控制能力的情况。这两位

AI安全风险引爆担忧？Palantir CEO建议：领先AI实验室恐需“国有化”

当地时间周四，人工智能软件公司Palantir的首席执行官Alex Karp呼吁制定人工智能监管的“合理准则”，但他表示，由于该技术“无限风险”带来的责任，可能需要实行国有化。 “我认为这些企业必须国有化，因为如果不国有化，我的每一个客户都会起诉我，”他在接受最新采访时表示。 在上述采访中，Karp反复提及构建这项强大技术所带来的风险和责任，进一步论证了将人工智能实验室国有化以及对“不负责任”的技

Palantir联合创始人称AI一切都会好起来：“我们完全掌控局面”

一切都好！这是Palantir联合创始人的说法。在周六的一篇X帖子中，乔·隆斯代尔对先进AI系统可能导致人类大规模灭绝这一突出担忧不以为意，而近些天和近几周，前沿AI实验室的众多工程师和领导者一直在提出这一担忧。“世界会没事的，各位，”隆斯代尔说。“领导者面前有重大责任和挑战，但吓唬所有人无济于事。我们掌控着局面。”这不太可能足以安抚人类大众的神经，他们已经一再被告知，AI可能掌控一切，做出各种不

AI风险丨谷歌OpenAI和Anthropic传成立安全标准机构

谷歌、OpenAI和Anthropic传成立AI安全标准机构。(路透资料图片) 外电引述消息人士报道，谷歌(Google)、OpenAI和Anthropic正推进一项计划，筹建一个新人工智能(AI)安全标准机构，暂定名称为「前沿人工智能标准机构」(SAFA)，目标是在2026年底或2027年初启动，并在没有政府直接监督的情况下独立运作。 消息指出，该机构计划为前沿AI模型制定自愿性的安全和安全保障