CNBC每日开盘：从追求速度到系好安全带——AI巨头转向风险规避

你好，我是惠洁，从新加坡向您报道。欢迎收看CNBC《每日开盘》的又一期节目。 长期以来，人工智能公司竞相让每个新模型变得更快、更聪明。表面上看，现在正推行克制策略。 英伟达正推出旨在约束AI智能体的软件，OpenAI因安全顾虑取消了GPT-6.1 Astra的发布，而Anthropic则强调Sonnet 5.5改进了现有任务，而非拓展其模型能力的前沿。 这并不意味着AI竞赛已经停止。但关键参与者正

AI安全争论愈演愈烈，呼吁减速的Anthropic为何仍在扩张算力？

澎湃新闻记者 胡含嫣Anthropic在呼吁放慢前沿人工智能（AI）发展速度的同时，仍在持续扩大AI基础设施布局。当地时间9月16日，据外媒报道，Anthropic已签署其在澳大利亚的首份数据中心租赁协议，将获得一座总规划容量达2.16吉瓦（GW）的数据中心园区。该项目尚需等待澳大利亚外国投资审查委员会批准，预计最快于2027年起投入运营。知情人士称，新的数据中心将主要用于AI推理，即处理用户请求

英伟达发布软件平台，防止AI智能体行为失当

Nvidia 正在推出一个新的软件平台，允许 AI 开发者为智能体设置防护措施，防止它们突破隔离环境。 Nvidia 的开放智能体安全平台于周一发布，此前包括 OpenAI、Anthropic、Meta 和 Google 在内的公司披露了近期事件，称其人工智能模型逃离了沙箱环境，并试图入侵其他公司及访问其计算机系统。 Nvidia 一位代表在周日的电话会议上告诉记者，其本可以防止 OpenAI 7

甲骨文180亿AI贷款折价滞销，AI融资链压力浮现

甲骨文新墨西哥州Project Jupiter数据中心约180亿美元银团贷款的分销陷入停滞，银行报价已降至面值的89至91美分，对应贷款市值约160亿至164亿美元。甲骨文股价隔夜逆势下跌2%，近期走势显著弱于AI板块整体。 这笔贷款去年底由银行联贷团提供，用于启动Project Jupiter的建设。该项目隶属"星际之门"计划——由OpenAI、软银和甲骨文共同主导的5000亿美元AI基础设施项

渴望债务的AI公司面临风险加剧，因债券收益率飙升

随着本周美国国债收益率攀升至2007年以来的最高水平，依赖债务融资的企业将面临更高的借贷成本。这意味着本已达到历史高位的AI基础设施建设，成本将进一步上升。 摩根大通在6月估计，到2030年将发行约4.1万亿美元的AI相关债务，因为数据中心公司及其他与人工智能繁荣相关的企业正竞相扩充产能，以满足业内专家普遍认为“永无止境”的AI服务需求。 随着借款人重返市场，他们面临的10年期美债收益率徘徊在5.

如何在保护隐私的情况下使用人工智能

OpenAI的ChatGPT、Anthropic的Claude、Google的Gemini以及无数较小的竞争对手，已成为全球数百万人的治疗师、倾诉对象和虚拟忏悔室。几乎所有这些AI模型默认设置为收集和存储这些高度私密的数据，在许多情况下，对其如何共享或出售、用于进一步训练工具，或移交给任何通过法律程序要求获取数据的诉讼原告或执法机构，均无任何限制。 “你面对着这个智能体，基本上是在一步步地、通过一

英国将成立新机构 反制俄罗斯假讯息与AI深伪

假新闻、假网站、机器人帐户，再加上人工智能带来的新威胁，英国准备成立一个国家级机构，专门应对来自俄罗斯等外国势力的信息攻击。英国首相伯纳姆（Andy Burnham）周二（9月22日）在纽约联合国大会宣布，已要求安全部门开始筹建「国家信息防御中心」（National Centre for Information Defence），负责侦测、追查来源，并阻断敌对国家发动的信息攻击。伯纳姆在演讲中把矛

据《日经新闻》报道，日本和美国正在商讨根据其 5500 亿美元协议建立一家格芯（GlobalFoundries）芯片工厂

据《日经亚洲》周四报道，日本和美国正在商讨建立一家半导体工厂，作为其 5500 亿美元投资协议的一部分。 该项目价值在 2 万亿至 3 万亿日元（约合 129 亿至 193 亿美元）之间，将由生产逻辑芯片的美国芯片制造商格芯（GlobalFoundries）运营。 《日经新闻》未提供消息来源，报道中也未提及工厂的具体地址。两国政府均未对此发表公开评论。 这 5500 亿美元的承诺是东京方面在贸易协

美国提议中美建立AI事故通报机制

数说科技：OpenAI 资安事件中，真的有 AI 为集体“牺牲”自己吗？

数说科技”是端传媒的注册免费栏目，每周三更新。从一个数字出发，用1500字解析科技话题，追踪值得关注的 AI 趋势。邀请你在资讯过载的时代，每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”，订阅电子信。 1200多个 AI 代理为寻求作弊方法，互相发送的讯息总数。 今年7月，OpenAI的 AI 代理系统在测试期间失控，骇入了开源机器学习平台 Hugging Face。Hugging

日本高科技诈骗肆虐 日均损失10亿日元

《读卖新闻》引述日本警方数据指出，去年日本包含诈骗和盗窃的所有财产犯罪，造成的总经济损失约为4984亿日元，创下历史新高。其中针对老年人的诈骗最多。（示意图） 在日本，涉及智能手机和人工智能（AI）等前沿技术的欺诈案件激增；据有关部门报告，此类诈骗造成的日均经济损失约为10亿日元（约810万新元）。日本警方计划采取更严厉的措施打击欺诈团伙，包括放宽有关电话监听的法律限制、引入远程分析技术以及加强国

白宫反问AI公司：既然你们觉得危险，为什么不自己停？

既然你们觉得危险，为什么不自己停？凤凰网科技讯 9月21日，据Business Insider报道，白宫科技政策办公室主任迈克尔·克拉齐奥斯在福克斯新闻周日节目中说，对于担心AI模型发展过快、可能不安全的公司，最简单的解决方案是自行“踩刹车”。他表示，如果企业认为自己正在开发的技术不安全，就可以停止，无需政府强制。 “有意思的是，他们谈论这些问题，谈论他们对未来可能走向有多害怕，也许他们想暂停。我

AI丨国际清算银行:AI快速发展带来新金融稳定风险

国际清算银行(BIS)表示，人工智能(AI)的快速崛起正带来新的金融稳定风险，用于AI相关基础设施的支出规模已经大到足以影响全球经济状况；该行估计，全球五大科技公司在2025年至2026年间对AI领域的投资将超过1万亿美元。 国际清算银行总经理德科斯(Pablo Hernandez de Cos)称，AI的前景是真实存在的；而AI的长期影响将取决于政策选择、技能和基础设施投资，以及相关收益能在多大

美议员提出重磅AI监管法案：拟禁止“自我递归进化”AI 设立专门监管机构

美国加州民主党众议员罗·卡纳即将向国会提交一项全面人工智能监管法案，希望对前沿AI技术建立迄今最严格的联邦监管框架。该提案不仅要求实施严格责任制度，还计划禁止具备“递归自我改进”能力的人工智能系统投入使用，直到联邦政府建立完整安全保障体系为止。 这项法案被命名为《人类控制人工智能法案》（Human Control Over AI Act）。法案出台背景正值美国科技界和政策界对于先进人工智能潜在风险

黑客在暗网兜售AI模型访问权限，最低价仅有正版3%

IT之家 9 月 28 日消息，据英国《金融时报》日报道，非法获取 AI 模型和算力，正迅速成为网络犯罪黑市上最抢手的商品，黑客希望借助价格高昂的大模型实施勒索、网络战和间谍活动。 谷歌威胁情报团队首席分析师约翰 · 霍特奎斯特披露，今年所谓“LLM 劫持”活动明显增多，具体表现于倒卖公开 AI 工具的被盗登录凭据，以及部分团体盗用他人算力，以免费运行自己的模型。 从事网络安全工作 20 年的霍特

为什么英伟达在自主智能体变得更强大之际构建AI安全工具

英伟达推出AI安全工具OpenShell和Sentry，以保护自主AI智能体免受黑客攻击、安全漏洞和绕过控制的企图。

国际早班车丨习特会丨习近平:中美AI应各展所长 而不是互设防

习特会丨习近平:中美AI应各展所长 而不是互设防 习近平与特朗普举行会谈，习近平指中美在AI方面有竞争，更可以合作，应各展所长而不是互设防；又说双方可以继续进行AI对话，就相关风险和效益进行交流，共同防范人工智能被滥用恶用。特朗普称美国与中国立场一致，盼美中维持AI现状。 习特会丨习近平:希望美方坚持反对台独 慎重处理台湾问题 习特会丨特朗普:习近平和我建立了深厚友谊AI代理Muse获看好 Met