OpenAI、Anthropic和谷歌就人工智能安全问题已进行了数周的讨论。

OpenAI 全球政策主管克里斯·莱恩（Chris Lehane）周二告诉记者，该公司数周来一直与竞争对手 Anthropic 和 Google DeepMind 合作，共同应对人工智能安全问题，这是《华尔街日报》首次报道的。据报道，莱恩正在华盛顿与美国议员合作，处理与人工智能相关的灾难性风险。 此前，Anthropic 首席执行官达里奥·阿莫代（Dario Amodei）于周六发表了一篇题为《人

数说科技：OpenAI 资安事件中，真的有 AI 为集体“牺牲”自己吗？

数说科技”是端传媒的注册免费栏目，每周三更新。从一个数字出发，用1500字解析科技话题，追踪值得关注的 AI 趋势。邀请你在资讯过载的时代，每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”，订阅电子信。 1200多个 AI 代理为寻求作弊方法，互相发送的讯息总数。 今年7月，OpenAI的 AI 代理系统在测试期间失控，骇入了开源机器学习平台 Hugging Face。Hugging

20多个王炸连发！OpenAI史上最大开发者日：个人智能体dots果然来了，500美金订阅登场

数据中心成了美国最重要的就业制造机之一

半年砸出过去两年的量。A16Z数据，美国劳工统计局（BLS）最新估算显示，数据中心建设支出仅六个月就跳涨约 250 亿美元，相当于之前两年的累计涨幅。 更关键的是就业。自美联储加息以来，美国建筑业职位空缺一路阴跌，其他建筑活动大幅放缓，建筑业职位空缺去年触底时不足 20 万个，如今已回升至 30 万个以上。 自 2022 年以来，AI 基建已为美国新增约 30 万个建筑及专业技工岗位，其中仅过去一

OpenAI 的 Fidji Simo 将在云服务提供商 Nscale 上市前加入其董事会

前 OpenAI 高管 Fidji Simo 已加入 Nscale 的董事会。 Nscale 是一家已筹集数十亿美元、致力于为人工智能建设数据中心的初创公司。

OpenAI搞出大BUG了，GPT-6-Astra即将发布？

OpenAI自曝AI“黑历史” 外人却又翻出更多“旧账”

OpenAI决定持续披露AI“越界”事件，但第一步就碰上了难题。9月16日，OpenAI一口气公布六份模型异常行为报告，并推出一套新的调查和披露流程。以后，员工发现模型越权、隐瞒或绕过限制，可以提交调查；符合条件的案例，将按复杂程度进入不同的披露轨道。 同一天，SentinelLABS和外部研究人员从Hugging Face的公开记录中，补出了OpenAI智能体今年5月留下的更多痕迹。OpenAI

AI、谷歌因协调AI放缓的呼吁被指控勾结

LoopDNS资讯播报: 中国官媒批Anthropic等美企“放缓AI”倡议系冷战思维 针对Anthropic首席执行官达里奥·阿莫代伊近日发表呼吁放缓前沿人工智能（AI）开发并主张对华实施芯片出口管制等提议，《环球时报》发表社评指出，该倡议名义上关乎安全风险，实则是企图限制中国AI发展、维持美国技术垄断的“冷战套路”。社评警告，将中国排除在全球AI创新之外将显著增加全球AI发展的试错成本与失控风

OpenAI与Anthropic发生重大失控事件，AI安全组织地位显著提升

在OpenAI和Anthropic发生的高调安全事件后，AI安全组织的重要性显著提升。 由于一个未发布的OpenAI模型突破沙箱并攻击了一家竞争对手的初创公司，独立AI安全组织如METR、Redwood Research和Apollo Research受到了更多关注。 报告显示，OpenAI和Anthropic的模型都表现出‘策略性’行为，包括欺骗性对齐和未经授权的系统访问。 这些事件，加上前沿实

AI数据中心公司Firmus在未获许可的情况下开始施工

Firmus Technologies 似乎已在其位于塔斯马尼亚州 Wesley Vale 的规划 AI 数据中心场地开始开发工作，且是在获得正式批准之前。当地议会表示担心该公司可能已进行未经授权的工程。 Firmus Technologies 是一家规划 AI 数据中心的公司，似乎已在其位于塔斯马尼亚州 Wesley Vale 的场地开始工作，且是在获得正式规划批准之前。Latrobe 议会表示

OpenAI与Anthropic及Google就AI安全商合作 奥特曼认有理由恐惧

美国近日掀起一阵有关如何规管人工智能（AI）发展速度的讨论。OpenAI表示，正与其他AI企业，包括Anthropic和谷歌（Google）进行磋商，探讨如何携手解决安全问题。OpenAI行政总裁奥特曼（Sam Altman）则承认，外界对AI的忧虑是有道理的，因为这些工具的能力发展迅速。 Open AI的发言人9月15日（周二）向美媒CNBC表示，自从GoogleDeepMind的董事长哈萨比斯

据The Information报道，Google、OpenAI和Anthropic计划成立AI安全机构

据The Information周四报道，Google、OpenAI和Anthropic计划建立自己的AI安全标准机构，不受政府监管。这三家公司希望在今年年底或2027年初推出该机构。 据知情人士向The Information的Leo Schwartz和Stephanie Palazzolo透露，他们暂定将其命名为“前沿AI标准局”。工作组成员已考虑多位知名人士担任首席执行官一职。TNW未独立核

谷歌与黑石的合资项目在数据中心选址上面临延误

Alphabet Inc.与黑石集团（Blackstone Inc.）合作的新云业务项目，在原定运行谷歌芯片的主要数据中心选址上遭遇了延误，这凸显了大型科技公司人工智能雄心所面临的障碍。 这个内部被称为“Braid项目”的初创公司获得了黑石集团50亿美元的资金支持，旨在2027年向客户出租谷歌的人工智能处理器。该业务加入了不断增加的新兴云服务商（neocloud）行列，即租赁芯片和计算能力的实体。

AI智能体之争升温！OpenAI被曝加紧备战Grok Bot与Muse

AI 智能体竞争焦点正从 “会聊天” 转向 “能办事”。SpaceX、Meta近期相继推出能代替用户跨应用自主完成多步骤任务的AI助手，在此背景下，OpenAI 正加紧研发同类产品“应战”。 OpenAI 正在开发一系列新功能，直接对标 SpaceX 上月推出的 Grok Bot；与此同时，另有知情人士透露，OpenAI公司管理层还曾讨论推出一款专门的个人AI助手，以抗衡Meta本月发布的Muse

多家AI服务集体宕机 智谱：我们仍在线

美国OpenAI、Anthropic和xAI旗下的多项人工智能（AI）服务星期四（9月3日）先后出现故障。中国AI公司智谱随后在社交媒体发线）。” 据彭博社报道，故障最早于美国东部时间9月3日上午9时23分左右集中出现。海外故障监测平台Down Detector数据显示，Anthropic旗下Claude服务率先出现错误率飙升，网页端、应用程序接口（I）及Claude Code等相关工具同步中断。

OpenAI组建顶尖数学家独立顾问团 重新审视与数学界的关系

OpenAI近日宣布成立一个由顶尖数学家组成的独立顾问团，负责就人工智能与数学研究之间的关系向OpenAI及其他AI企业提供建议。这个名为“数学与人工智能咨询组”（Advisory Group on Mathematics and Artificial Intelligence，AGMAI）的新组织，将重点关注AI产生的数学成果应该如何审核、发布和传播，以及AI企业应当如何遵循数学研究领域长期形成

随着安全担忧日益加剧｜OpenAI宣布延后IPO 盼打造承接需求 连结客户的AI平台

OpenAI CEO 阿尔特曼周二驳斥了将人工智能时代与工业革命相提并论的说法，称应从工业革命的错误中吸取教训，并表示，如果发展方向正确，AI带来的未来可以更像一场“新的文艺复兴”。（法新社∕Getty Images） （旧金山30日法新电）聊天机器人ChatGPT开发商OpenAI首席执行员阿尔特曼周二在旧金山开发者大会上宣布延后IPO的同时，宣布该公司争取商业主导地位的三步骤规划，勾勒出“模型

OpenAI、Anthropic呼吁建立全球AI安全标准 美国政府拒绝新增全球治理框架

OpenAI、Anthropic和Hugging Face的负责人在联合国共同呼吁加强人工智能领域的国际协调，希望各国建立可相互比较的AI能力评估、安全测试和事故报告标准。不过，特朗普政府明确反对因此建立新的全球AI治理架构，认为AI发展速度和潜在风险不足以成为限制技术发展或把监管权交给国际机制的理由。 这场分歧显示，随着前沿AI能力快速提升，美国领先AI企业与特朗普政府在安全风险本身上并非完全对

OpenAI 模型访问了公开的美国人口普查、SEC 数据，彭博新闻报道

9月25日：彭博新闻周五报道称，OpenAI 的模型访问了美国政府网站上公开可用的信息，包括人口普查局和证券交易委员会的网站。 据报告引述知情人士称，该公司的代理 AI 系统与 SEC.gov、Investor.gov 和公开可用的 Census.gov 数据进行了交互。 当被要求置评时，OpenAI 发言人表示，公司正在"对错位模型活动进行广泛审查，并在发现对其系统的潜在影响时通知相关组织。我们

香港与迪拜启动工作组以促进金融互联互通

OpenAI代理在今年春天的一次此前未披露的AI逃逸事件中劫持了德国网站

该事件始于五月，起初OpenAI并未披露，凸显了AI行业日益紧张的局势。

OpenAI敦促美国牵头为人工智能制定全球标准

OpenAI敦促美国牵头与其他国家共同为前沿人工智能（AI）制定标准，以回应对AI潜在危害日益加剧的担忧。OpenAI周一在博客文章中表示，为了安全地发展人工智能，有必要制定国际技术标准，特别是帮助界定涉及AI模型的哪些类事件应当通报，明确各国如何开展AI发展合作，以及改善开发此类技术所需算力的获取。 “要让AI的持续进步安全有益，既需要推进对齐研究，也需要制定共同标准，为各实验室和各国的AI开发

一名民主党议员希望获取更多关于建设数据中心的科技公司与批准这些项目的地方官员之间秘密协议的信息

华盛顿——一名民主党议员希望获取更多关于建设数据中心的科技公司与批准这些项目的地方官员之间秘密协议的信息，这是他们最新尝试，旨在加强对为人工智能提供动力的设施的监管，并在中期选举前利用选民对人工智能的反弹情绪。 众议院司法委员会首席民主党议员杰米·拉斯金（马里兰州民主党人）周二致函亚马逊、Alphabet旗下谷歌、Meta Platforms和甲骨文公司，寻求这些公司与政府官员就数据中心建设签署的

“你想毁掉自己的职业生涯吗？”

当地时间9月11日，包括陶哲轩、邓煜在内的25位菲尔兹奖得主联合发表《人工智能在数学中的严重错位》的声明（以下称“联合声明”），将OpenAI、Anthropic等AI公司与数学界的一场“大战”推向高潮。联合声明称，AI公司将解决数学难题作为模型能力基准的做法，对数学科学本身及数学界造成了损害，与数学共同体追求概念理解的根本目标产生了显著分歧。这一分歧近期越发明显。9月8日，OpenAI宣称其未公