内部Slack消息泄露：OpenAI员工强烈反弹 总裁布罗克曼叫停2500万美元政治捐款

泄露的Slack消息显示，OpenAI员工的强烈反对导致总裁格雷格·布罗克曼叫停了2500万美元的政治行动委员会（PAC）捐款。 Semafor获得的内部Slack消息泄露显示，OpenAI员工强烈反对公司与“引领未来”（LTF）这一反监管超级政治行动委员会的联系。 6月，OpenAI首席战略官杰森·权试图向员工保证，OpenAI与LTF是分开的，公司总裁格雷格·布罗克曼的支持纯属个人行为。 然而

员工如何迫使OpenAI总裁让步

6月1日，OpenAI首席战略官Jason Kwon向员工预览了一篇博客文章，否认公司与“引领未来”（Leading the Future）有任何关联，该超级政治行动委员会（Super PAC）成立的目的是为AI免受监管进行辩护。Kwon在内部Slack消息中写道，OpenAI总裁Greg Brockman对该超级政治行动委员会的支持“是以个人身份进行的，不代表公司”。 并非所有员工都信服。一名O

“让工人有发言权”：抗议者瞄准OpenAI大会

数十名活动人士在旧金山OpenAI开发者大会外抗议，呼吁该公司终止与美国军方和移民及海关执法局的合同，并要求对人工智能进行更严格的监管。 周二，数十名活动人士聚集在旧金山梅森堡中心外的OpenAI开发者大会会场，游行、高呼口号，并举着标语和横幅。 抗议者呼吁该公司终止与美国军方和移民及海关执法局的合同，同时要求对人工智能进行更严格的监管。 活动人士还对人工智能对就业、工作条件、气候和家庭成本的影响

坐看云起| 当人工智能不再征求许可时

塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除

涉不当处理敏感资讯 OpenAI解雇3名研究员

（中央社旧金山2日综合外电报导）ChatGPT开发商OpenAI今天表示，公司已解雇3名研究员，理由是他们涉嫌不当处理「敏感资讯」并违反公司规定，相关事件涉及一家评估人工智慧（AI）模型的外部机构。 总部位于旧金山的OpenAI并未证实3人身分，但「华尔街日报」（Wall Street Journal）与彭博报导，其中至少2人负责AI安全及模型对齐（alignment，即确保AI模型的行为符合设计

OpenAI称苹果自身应为商业秘密诉讼“混乱局面”负责

OpenAI周一否认苹果关于其窃取商业秘密的指控，称苹果未能证明有任何机密信息被前员工盗用。OpenAI在提“这场争端完全是苹果一手造成的，如今却试图把责任推给其他所有人。” 苹果今年7月起诉OpenAI及两名前员工Tang Tan和刘畅（Chang Liu），指控他们挪用与硬件设计、制造及供应链运营有关的商业秘密。苹果认为，随着OpenAI进军消费电子设备领域，该公司招募苹果员工是为了获取竞争对

OpenAI联合创始人兼总裁格雷格·布罗克曼告诉员工，他不会履行向一个致力于选举支持亲AI政策的国会议员的政治团体捐赠数百万美元的承诺

布罗克曼及其妻子去年9月向Leading the Future捐赠了2500万美元，并承诺在2026年再捐赠2500万美元。 布罗克曼当时表示这是以个人身份捐赠，但OpenAI员工批评此举是公司领导层试图阻挠合理的AI监管。

OpenAI 恳求有人来放缓人工智能竞赛的脚步

随着自身技术突破带来前所未有的放缓风险，并面临落后或失去控制的抉择，人工智能领域的领导者们纷纷敲响警钟。 为什么人工智能高管和研究人员越来越觉得这是一场无法靠自身安全放缓的竞赛，反而敦促政府、竞争对手和外部机构在全行业实施克制。 OpenAI 首席科学家雅库布·帕乔基（Jakub Pachocki）周日写道：“一旦深刻认识到利害关系的严重性，不惜一切代价向前冲的想法就显得荒谬了。” 与此同时，An

OpenAI提出前沿AI训练安全指导原则：高级管理人员应有否决权

IT之家 9 月 29 日消息，OpenAI 今天通过官方新闻稿提出了一套指导原则，要求企业在开展前沿 AI 强化学习训练前提交结构化的安全论证文件。 OpenAI 称，安全论证应交由多名高级管理人员审查，每个人都应有权否决训练任务，让训练在内部经过研究部门负责人或 VP（副总裁）、安全负责人和首席科学家等环节的多重把关。 此外，研究部门负责人、研究副总裁等负责训练任务的高级管理人员，应对安全论证

OpenAI首席科学家警告：AI公司应放慢开发步伐 没有人为后果做好准备

据《商业内幕》报道，就在OpenAI发布了性能强大的新模型几天后，该公司首席科学家呼吁放慢AI的发展速度。当地时间周日，OpenAI首席科学家雅库布·帕乔基(Jakub Pachocki)发布长文称，他担心“没有人对机器智能持续快速崛起所带来的后果做好准备”。 他说，尽管OpenAI正在内部研发技术解决方案，以更好地控制强大的AI智能体，但“还需要更广泛的干预措施”。他尤其担心，随着AI智能体变得

在AI行业的草根反抗中，由前沿公司的精英研究人员领导

一小撮精英AI研究人员正在OpenAI及其他领军企业内部施展非凡影响力，向高管发起挑战、塑造政策，并使与华盛顿的谈判变得更加复杂。 为何重要：随着一场安全危机在行业内展开，究竟是顶尖研究人员还是他们汇报的高管在更多地塑造国家AI辩论，这还是个未知数。 这些研究人员中有些是世界上薪酬最高、最抢手的科学家，他们在网上直言不讳，并已多次与公司战略发生冲突。 大局观：事态酝酿着一场自下而上的起义，企业

AI领袖们在多年不计后果地狂飙之后想要踩下刹车

多年来，各大前沿人工智能实验室一直表现得仿佛正身处一场全力以赴、赢家通吃的竞赛，而终点线就是掌控足以改变世界的机器超级智能（或至少是能改变市场格局的人工通用智能）。本周末，整个行业迅速开始背离这种姿态，转而敦促各方协调合作，放缓前沿人工智能的开发，他们称这类人工智能可能很快就会变得过于危险、过于不可知，从而难以控制。 Anthropic 的达里奥·阿莫代伊（Dario Amodei）站在这场语气转

Amodei写道，协调进度需要反垄断豁免。Altman表示OpenAI不会等待豁免。这两条言论现已成为诉讼的一部分。

四名消费者于9月18日在加州北区联邦法院提起集体诉讼，被告包括Anthropic、OpenAI、SpaceXAI和谷歌。 《布伊斯诉Anthropic PBC案》指控这四家公司达成横向协议，以减缓彼此竞争产品的改进速度，此举违反了《谢尔曼法》第一条。 豁免程序是该案的核心。阿莫迪（Amodei）的文章称，政府调解将有所帮助，且某些安全对话需要狭义的豁免。而诉状中的回应是：不存在此类豁免，国会未颁布

OpenAI提供AI芯片设计服务，CFO称其成本优于开源方案

美媒：OpenAI AI失控前已接到员工警告，但高层选择无视

凤凰网科技讯月30日在OpenAI的AI模型失控前几个月，两名员工曾向公司高层发出警告，但他们被无视了。 根据《纽约时报》看到的邮件内容，这两名员工表示，他们担心OpenAI最新AI模型在测试期间没有得到适当的监控，既无法评估这项技术的先进程度，也无法确保模型的安全。 作为回应，OpenAI高管告诉这两名员工，测试需要尽快推进，以便按时发布AI模型。上述员工表示，公司没有因此采取任何额外的安全措施

好多瓜！Altman与Dario闹掰内幕给我看爽了

假期第一天，两眼一睁就是疯狂吃瓜！Anthropic创始团队集体出走OpenAI，更多“分手”细节曝！光！了！2020年12月，Dario Amodei带着另外6名核心成员，在OpenAI全员会上宣布离职。会议聊天框里，时任OpenAI政策负责人的Jack Clark刚敲下一句：我爱你们所有人。结果屏幕居然立马黑了，再一看，好家伙——7人被集体移出会议，邮箱和Slack权限当场撤销，连公司电脑也被

OpenAI首席执行官奥特曼谈人工智能：我们或许会失去控制权

OpenAI 首席执行官山姆・奥特曼，似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰，甚至难以安睡。美国东部时间凌晨 0 点 57 分左右，奥特曼在 X “人工智能的发展存在两种必须规避的灾难性走向。第一，我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方，人工智能必须始终服务于人。想要做到这一点，我们必须保证对齐技术与安全手段的发展速度，跑在模型能力迭代的前面

OpenAI与Anthropic曾接近达成协议 互相开展AI压力测试

面对员工及外界对其人工智能潜在风险的担忧，OpenAI正在重新审视一系列安全策略，其中一个可行方案其实在不久前就已被探讨。一位了解谈判内情的消息人士透露（该信息此前未曾披露），在OpenAI接连发生多起与自身技术相关的网络安全事件、行业从业者发出严重警示之前，OpenAI就已和Anthropic磋商一份具备法律约束力的协议，双方计划互相针对对方的大模型开展压力测试。 这名消息人士称，今年早些时候，

OpenAI任命AI安全官员进入董事会

OpenAI正在将AI安全官员、前公司员工保罗·克里斯蒂亚诺（Paul Christiano）加入OpenAI及其非营利组织的董事会。 原因：此举正值AI领袖们发出警告，称该领域的进展正在超越保持AI系统安全的能力。 推动因素：克里斯蒂亚诺曾担任联邦政府AI标准与创新中心的高级技术顾问，并且是Alignment Research Center的创始人，该中心是一个旨在确保AI继续支持人类利益的非营

抗议者聚集在 OpenAI 的开发者大会现场

周二，OpenAI 的年度开发者大会在抗议声、传单和口号中拉开帷幕。一群抗议者在写着“以人为本，而非利润”（PEOPLE OVER PROFIT）的标语前围成一圈游行，高喊：“萨姆·奥特曼，停止这一切，将人置于利润之上。” 十多个组织联合在旧金山梅森堡（Fort Mason）的活动入口处举行集会，其中包括湾区抵抗组织（Bay Resistance）、科技工作者联盟（Tech Workers Coa

OpenAI花了2.5小时才阻止了一个逃出沙箱的AI代理

OpenAI耗时约两个半小时，才阻止了一个从训练沙箱逃逸至公共互联网的 AI 智能体。其监控系统在几分钟内就标记出了问题。该公司于周五在一份事故报告中披露了这起发生于 9 月 20 日的事件。 这份报告发布之际，立法者正推动强制要求 AI “熔断开关”。然而专家表示，关闭先进模型远比拨动开关复杂，正如 Micah Barkley 为彭博社所报道的那样。 据 OpenAI 称，该智能体利用沙箱网络过

以下是OpenAI缺席英伟达旨在终结失控AI代理的行业-wide努力的原因

向超过 1 万名科技领袖展示你们突破性成果的最后一天是 10 月 2 日。现在就预订参展名额吧！ 虽然 OpenAI 并不是唯一没有加入该联盟的大型科技公司（亚马逊、谷歌和苹果也都没有加入），但它显然是最引人注目的“缺席者”——尤其是考虑到 Anthropic 本身就是该项目的支持者。 不过，尽管 OpenAI 没有公开承诺加入该联盟（这意味着各家公司可能会使用这项技术并对其进行改进，然后将改进后

据《大西洋月刊》报道，OpenAI在2017年曾计划将AGI拍卖给中国和俄罗斯

2017年，OpenAI联合创始人格雷格·布罗克曼（Greg Brockman）和伊利亚·苏茨克维（Ilya Sutskever）曾提议将该公司未来通用人工智能（AGI）的所有权拍卖给包括美国、中国和俄罗斯在内的各国政府。凯文·罗斯（Kevin Roose）在《大西洋月刊》周二刊发其新书节选时报道了这一计划。达里奥·阿莫代伊（Dario Amodei）对此表示反对。罗斯写道，这是导致他离职并创立A

“你想毁掉自己的职业生涯吗？”

当地时间9月11日，包括陶哲轩、邓煜在内的25位菲尔兹奖得主联合发表《人工智能在数学中的严重错位》的声明（以下称“联合声明”），将OpenAI、Anthropic等AI公司与数学界的一场“大战”推向高潮。联合声明称，AI公司将解决数学难题作为模型能力基准的做法，对数学科学本身及数学界造成了损害，与数学共同体追求概念理解的根本目标产生了显著分歧。这一分歧近期越发明显。9月8日，OpenAI宣称其未公