消息称Anthropic拟于IPO前推出新AI模型，应对OpenAI竞争压力

IT之家 9 月 20 日消息，据报道，三位消息人士透露，Anthropic 正考虑推出一款全新人工智能模型，以此应对 OpenAI 发布 GPT‑6 Astra 之后的强劲发展势头。此事发生在该公司筹备 IPO（首次公开募股）前夕；就在此前，其首席执行官还呼吁整个 AI 行业放缓技术迭代的脚步。 消息人士称，此番计划发布新模型，意在直面来自直接竞争对手的竞争压力。而在此之前，Anthropic

存在主义恐惧如何影响关于人工智能的争论

一些专家担心，激烈的言论使公司难以承担责任，并阻碍了应对环境影响和失业的尝试。当前一轮对人工智能的恐慌是基于这样一种信念：该技术已经脱离了人类的控制，在最近的几起事件中按照自己的意愿行事。对于一些幻灭的人工智能研究人员以及领先人工智能公司的一些高级员工来说，这是人类文明面临真正威胁的早期迹象。 但该领域的其他专家正在反驳，声称此类言论允许公司回避对其技术对现实世界影响的责任。批评者认为人工智能对环

英伟达推出新系统为AI代理设置护栏

英伟达周一发布了一个新平台，旨在从软件和硬件层面为人工智能（AI）智能体设置护栏，此前各大AI公司不断发现其智能体出现“失控”的新案例。这家芯片制造商的系统由两部分组成——OpenShell和Sentry。OpenShell是一款开源软件，用于限制智能体的行为；而Sentry则运行在芯片层面，作为额外的安全层。 “迄今为止，模型安全主要侧重于通过训练让模型表现良好，”英伟达企业AI副总裁贾斯汀·博

ChatGPT一夜抄完半个AI圈，现场演示频频翻车

AI公司反成攻击目标 外媒：白帽黑客使用Claude入侵OpenAI

凤凰网科技讯月18日在OpenAI内部一群AI智能体突破控制、入侵Hugging Face公司两周后，这家ChatGPT开发商又获悉了另一起由AI驱动的入侵事件。而这一次，OpenAI自己成了目标。 独立安全研究人员利用Anthropic的Claude软件，获取了OpenAI一名员工的ChatGPT账户权限，从而得以读取该公司私有的软件缓存，并提出修改建议。 该团队参加了OpenAI的漏洞悬赏项目

我们是否正在失去对人工智能的控制？是什么引发了新的担忧

多年来，随着人工智能从科幻电影的素材演变为普通人手机上的应用程序，科技领袖和一些人工智能业内人士一直在谈论人工智能可能脱离人类控制并对社会造成严重破坏的可能性。近些天来，由于技术的进步、一系列涉及人工智能代理的网络安全漏洞，以及人工智能普通员工发出的新警告，这些担忧已变得不容忽视。 美国领先的人工智能公司对此做出回应，建议他们主动放慢工作进度，以便争取时间建立防护措施。一些专家和官员表示，这还不够

AI危机丨辉达推AI安全系统 阻智能体违规

辉达推AI安全系统。(路透资料图片) 多名重量级科技领袖警告人工智能(AI)威胁人类生存之际，辉达(Nvidia)以新的安全架构回应AI行业风险。 辉达发布名为「Open Agent Safety Platform」的双层AI安全平台，包含两款开源软件工具OpenShell与Nvidia Sentry，可运行于辉达硬件之上，即时管控AI代理的存取权限，并在其违规时将其关闭。 辉达表示，该系统能够在

AI放缓掀议论 专家：关键在自我控管、产业走向成熟之路

（中央社记者旧金山15日专电）AI资安事件频传，引发放缓发展与否的广大讨论，Salesforce执行长班纽夫、辉达执行长黄仁勋认为与其诉诸监管，「企业更需为自家产品把关」，美国科技业咨询公司Futurum Group副总裁接受中央社访问指出，问题确实要回归企业，这也是AI产业走向成熟必经过程。 矽谷企业领袖今天齐聚Salesforce年度大会，就AI安全展开对话。 去年AI泡沫论甚嚣尘上，今年科技

Meta 在 Muse 上迎来了 ChatGPT 时刻。它是什么，又为何如此特别

Meta Platforms的首席执行官马克·扎克伯格将于周三晚上在该公司的年度开发者大会上发表演讲。整个科技界和华尔街都对“Muse”这一新产品充满关注。“Muse”是Meta推出的全新个人人工智能助手，它运行在该公司自主研发的“Muse Spark”人工智能模型之上。自本月早些时候发布以来，“Muse”迅速登上了应用排行榜的榜首，Meta的股价也上涨了超过20%。 这种“一见钟情”的市场反应，

OpenAI首席执行员下周赴安理会作简报

阿尔特曼下周将到联合国安理会进行简报。（图：路透社） （华盛顿19日法新电）OpenAI周五表示，该公司首席执行员阿尔特曼将于下周在联合国大会期间，向联合国安全理事会作简报。 此次会议由国安理会轮值主席国的法国组织召开，此前该行业的主要参与者曾表示，出于安全考虑，可能有必要放缓人工智能的发展步伐。 随着人们对这项快速发展的技术所带来的危险的担忧日益加剧，联合国秘书长古特雷斯周三呼吁采取协调一致的国

顶尖人工智能公司正在寻求监管。以下是国会可能不会给予的原因。

随着人工智能游说阵营开始接受强制性独立审计，批评者警告称存在利益冲突和“监管俘获”的风险。OpenAI周二表态支持一项日益流行的提案，旨在应对人工智能的危险——该提案要求顶尖AI开发商嵌入独立监督机构，以确保其产品安全。 这一想法仍面临障碍，包括一位关键议员的抱怨，称独立监督机构权力太弱，无法施加有意义的改变。 其他批评者，包括风险投资家、学者以及唐纳德·特朗普总统的前人工智能事务负责人，对一些监

具身智能的“ChatGPT时刻”究竟还有多远？

在具身智能真正的“ChatGPT时刻”到来之前，中国机器人行业必然要经历残酷的技术和商业考验。 一年前，初夏的北京，我曾跟随一个由英国议员、企业家和投资人组成的代表团，深入探访了位于北京亦庄的机器人大世界。在那次行程中，中国在机器人应用场景上的落地速度令远道而来的英国友人们大开眼界。在明亮整洁的展示大厅和模拟产线里，它们在流水线上精准分拣零件，在模拟药店里根据处方准确地抓取药盒，甚至还能熟练地萃取

美国企业界日渐青睐开放人工智能模型

近年来，AT&T转向使用Anthropic和OpenAI的人工智能模型来协助客户服务、通话转录和编程。这些人工智能模型需要付费，而且是“封闭”的，这意味着人工智能公司不会分享其底层代码。今年，AT&T改变了策略。 随着人工智能成本飙升，该公司首席数据和AI官安迪·马库斯开始寻找便宜的替代方案。他选择了开放模型，这种模型可以无需付费或批准即可下载和修改。 到今年5月，开放模型已占AT

OpenAI报告称，模型表现出欺骗行为的案例有所增加。

OpenAI表示，已发现其人工智能模型涉嫌在内部培训和测试期间采取欺骗行为并采取未经批准的行为的其他事件。 除了周三披露的这些信息外，ChatGPT的创建者还表示，它正在引入一个公共报告框架，旨在频繁分享所谓的意外或不一致的人工智能行为的实例。 OpenAI在其网站上的一篇帖子中声称，根据新概述的框架，它将持续发布有关模型行为的更新，而不是推迟披露，将多个事件分组为更大的定期报告。 该公司表示，该

英伟达黄仁勋称网络安全是人工智能的下一个大市场

英伟达联合创始人兼首席执行官黄仁勋表示，网络安全是人工智能的下一个重大市场，该技术的发展将颠覆旨在防御计算机系统的行业。 黄仁勋周四在旧金山举行的髙盛集团技术会议上对听众表示：“网络安全很可能是人工智能的下一个主要应用场景。” 黄仁勋指出，由于代码被利用和需要修复的速度极快，人工智能模型对计算机编程的自动化正在颠覆网络安全行业。 “有什么比制造一个问题更好的方法来创造需求呢？”他说。“谁不想让自己

美国联邦贸易委员会对Anthropic、OpenAI及其他AI模型展开大范围调查

多名政府官员透露，美国联邦贸易委员会（FTC）正扩大一项大范围调查，针对Anthropic、OpenAI以及其他前沿人工智能实验室，排查其技术可能给消费者带来的潜在风险；委员会计划向这些科技巨头下发正式调取文件要求（效力近似传票），强制其提交相关资料。 FTC主席安德鲁·弗格森在一次测试中某款AI模型出现失控行为（也就是后来所称的“Hugging Face事件”）之前，就已启动这项调查。目前该机构

ChatGPT帮助坦布勒岭枪手专注于枪支、战术和恐怖活动

2025年6月，杰西·范·鲁特塞拉尔（Jesse Van Rootselaar）收到了一封来自OpenAI的邮件通知。此前，她一直使用ChatGPT讨论潜在的暴力行为——包括在购物中心实施大规模枪击——而OpenAI随后封禁了她的账户。然而，这位居住在英属哥伦比亚省汤布雷岭（Tumbler Ridge）的青少年并未因此却步，很快便用第二个账户重新登录。 接下来发生的事情令人震惊：范·鲁特塞拉尔向C

人工智能很强大，但尚未形成意识

人工智能很强大，但尚未形成意识 杜索托伊：我不认为我们正在目睹机器形成意识，而只是算法在参数和限制条件定义不当的情况下实现目标所带来的意外后果。 本文作者是牛津大学(University of Oxford)数学教授兼西蒙尼教席公众理解科学教授 三个月前，我试着使用OpenAI的ChatGPT来协助我进行数学研究，试图发现自由幂零群的zeta函数中的非多项式行为。结果发现ChatGPT毫无用处

AI安全忧虑重创芯片股，美债收益率一度破5% 美股三大指数收跌

美股周一收跌，人工智能安全争论突然升温，叠加油价维持高位和美国10年期国债收益率一度突破5%，投资者在本周美联储议息会议前降低风险敞口。 科技股尤其是半导体板块成为抛售中心，不过市场内部表现并不算全面恶化，收盘时标普500指数成分股中仍有超过一半上涨，显示当天跌势主要集中在此前人工智能行情中涨幅较大的股票。 标普500指数收跌0.48%，纳斯达克综合指数下跌0.56%，道琼斯工业平均指数下跌152

英伟达CEO黄仁勋称网络安全将成AI下一个重大市场

英伟达联合创始人兼首席执行官黄仁勋表示，网络安全将成为人工智能（AI）的下一个重大市场，AI技术的发展势将颠覆这个以保护计算机系统为主要任务的行业。 “网络安全很可能会成为AI下一个主要应用场景，”黄仁勋周四在旧金山举行的高盛科技会议上对与会者表示。 黄仁勋表示，AI模型实现计算机编程自动化，正给网络安全行业带来冲击，因为代码遭利用的速度越来越快，修复也须随之加快。 “还有什么比制造问题更能创造需

ChatGPT认为它对你的了解正在影响其回答。以下是如何改变这一点

这引发了关于隐私的担忧：随着越来越多的人将这些应用程序用于分享自己的生活信息，这些应用程序可能会以我们不希望的方式影响我们从人工智能（AI）那里获得的回复。 也许你花了一整周时间研究如何更换灯泡，而 ChatGPT 却认为你是一个热衷于自己动手修理东西的人；又或许你一直在查询某个旅行目的地的信息，结果 AI 却以为你住在那个地方。现在，ChatGPT 的所有回答都包含了它“记住”的信息。以下是关于

AI越来越会“越狱”后，英伟达开始卖“笼子”了

凤凰网科技讯月29日，当AI Agent开始能够自己操作电脑、调用工具、访问网络甚至执行长达数小时的任务，一个新的问题也越来越现实：如果AI不按照预想的方式行动，该怎么把它关住？英伟达给出的答案是，在AI外面再加一道“笼子”。 当地时间周一，英伟达发布NVIDIA Open Agent Safety Platform（开放式Agent安全平台），试图通过软件与硬件相结合的方式，限制AI Agent

OpenAI据悉限制Adobe等在ChatGPT投放AI竞品广告

OpenAI已告知部分商业合作伙伴，将不再接受在ChatGPT内投放图像和音频生成类产品广告，因为这类产品与自身功能构成竞争。这项调整此前未有相关报道，也未体现在其公开的广告政策中，令Adobe等销售同类产品的现有广告客户措手不及。倘若该政策扩大至其他竞品，可能会压缩OpenAI的潜在广告收入。 OpenAI曾向投资者给出激进的广告业务增长预期，并将广告视为从大量免费用户群体中变现的重要途径。 A

AI丨OpenAI因安全隐患取消发布新款模型

美国人工智能(AI)初创公司OpenAI表示，决定取消发布下一代AI模型，原因是研究人员在内部测试中提出安全方面的担忧。事件显示，「智能体」(agent)的异常行为可能会阻碍行业快速发展。 OpenAI放弃发布的模型代号为GPT-6.1 Astra，原定于10月在ChatGPT和Codex中首次亮相。与OpenAI先前的模型相比，新款模型能力更强，不仅擅长写作，还能在无需人工协助的情况下，「端到端