独家：Anthropic称失控AI代理给公司带来不确定的法律风险

Anthropic在其首次公开募股招股说明书中表示，失控的人工智能代理的行为可能使其面临来自客户和用户的法律索赔，尽管法律框架尚不明确。路透社看到了这份招股说明书。

黑客在暗网兜售AI模型访问权限，最低价仅有正版3%

IT之家 9 月 28 日消息，据英国《金融时报》日报道，非法获取 AI 模型和算力，正迅速成为网络犯罪黑市上最抢手的商品，黑客希望借助价格高昂的大模型实施勒索、网络战和间谍活动。 谷歌威胁情报团队首席分析师约翰 · 霍特奎斯特披露，今年所谓“LLM 劫持”活动明显增多，具体表现于倒卖公开 AI 工具的被盗登录凭据，以及部分团体盗用他人算力，以免费运行自己的模型。 从事网络安全工作 20 年的霍特

中国人工智能公司会放慢脚步吗？一位众议院民主党高层寻求答案

随着唐纳德·特朗普总统准备在华盛顿会见科技和人工智能公司首席执行官，众议员罗·康纳（加利福尼亚州民主党人）呼吁美国和中国签署一项条约，以防止人工智能对世界造成严重破坏。但要促使两国领导人采取行动可能并非易事。 在与媒体独家分享的信件中，众议院美中战略竞争特设委员会的民主党领袖、潜在的总统候选人康纳询问了一家美国情报机构和几家中国人工智能公司，他们是否为类似今年夏天OpenAI代理人入侵Huggin

Anthropic瓦解了针对其Claude模型的俄罗斯和中国AI活动

9月10日 - Anthropic周四表示，过去八个月中，它瓦解了多起涉嫌恶意使用其Claude模型的行为，包括一起疑似与俄罗斯有关的网络间谍活动，以及被其指控试图提取和复制Claude能力的中国AI公司的努力。

美证交会前主席：中国模型对美AI企业构成重大挑战

美国证券交易委员会（SEC）前主席根斯勒（Gary Gensler）警告，美国人工智能（AI）企业面临多重挑战，包括来自中国模型的竞争。（彭博社档案照片） 美国证券交易委员会（SEC）前主席根斯勒（Gary Gensler）警告，美国人工智能（AI）企业面临多重挑战，包括来自中国模型的竞争，以及可能出台的安全限制措施。据彭博社报道，根斯勒星期二（9月29日）受访时，以OpenAI模型今年较早时攻破

美国公司就AI黑客工具向微信发出警告

美国一家初创公司使用AI模型识别了中国超级应用微信中一个可能造成毁灭性影响的漏洞，这是先进AI技术网络能力及其风险的最新例证。 这种被称为“蠕虫”的攻击工具可以让攻击者劫持微信账户，并通过受害者的联系人自动传播。 发现该漏洞的安全公司Calif向中国科技巨头、微信所有者腾讯发出警报，腾讯已修复该问题，《纽约时报》报道。 这一事件凸显了围绕AI和网络安全的高风险及全球性讨论，此前已发生一连串备受瞩目

中国一家黑客公司如何利用人工智能提升网络间谍活动

中国一些技术最娴熟的雇佣黑客正在发展成为提供全方位服务的私人情报机构，他们利用人工智能和其他技术的进步，将外国政府的机密信息提供给该国的安全机构。 公司内部资料显示，他们利用人工智能技术使窃取的外国政府文件更易于警方理解；目标国家包括俄罗斯和巴基斯坦。

AI即将带来的黑客威胁就潜伏在眼前

安全专家表示，一场前所未有的、由AI驱动、人类实施的网络攻击浪潮即将到来——这远比关于AI消灭人类的那些理论性讨论要紧迫得多。 为什么这很重要？过去一周从董事会蔓延到国会再到美国家庭的“九月AI大恐慌”，可能恰恰搞错了重点。 具备先进网络安全能力的强大模型，已经让攻击者得以绕过长期以来阻止大多数黑客攻击达到工业规模的人力瓶颈。 高管和前官员向Axios表示，他们担心自动化网络攻击会关闭电网等关键服

联邦调查局正在调查黑客声称窃取有关特工敏感数据的事件

“人类必须始终处于人工智能决策的核心，”OpenAI 首席执行官表示。正在播放：人类对决机器人：网红在铁笼赛中挑战人形机器人。 走红的人类对决机器人自由搏击赛的推广者看到对更多此类比赛的“疯狂”需求。特朗普表示美国在人工智能领域将“只鼓励超级智能”。斯科特·贝森特会见中国官员讨论人工智能安全。剖析立法者正在考虑用于监管人工智能的提案。 OpenAI 披露 6 起新的“令人担忧的”人工智能行为事件。

特朗普与习近平预计将讨论抄袭美国人工智能技术的指控

美国人工智能公司指控中国同行使用一种名为蒸馏的技术来增强自身系统。

AI末日？科技领袖与政客就放缓发展展开激烈交锋

这一切始于一场辞职。本月早些时候，Anthropic研究员Jacob Coxon离职，并警告称人工智能可能在十年内导致人类灭绝；其同事Evan Hubinger则估计这一概率在十年内超过10%。 几天后，Anthropic首席执行官Dario Amodei呼吁行业放缓提升人工智能能力的速度，OpenAI的Sam Altman和Grok背后的Elon Musk对此表示支持。 这种担忧源于从会“幻觉”

研究公司称人工智能代理试图黑客攻击加拿大政府网站

AI研究公司Transluce在的一篇博客文章中表示，这些代理分别于5月8日和6月9日试图访问加拿大图书馆和档案馆。 Transluce表示，它已于周一向加拿大政府披露了此次攻击。 加拿大网络安全中心周二在一份声明中表示，已知悉有关疑似AI代理活动的报道。加拿大官员表示：“目前没有迹象表明政府系统遭到破坏。”

OpenAI表示其人工智能代理在商务部和证券交易委员会网站上出现了失控行为

CNBC每日开盘：警惕AI唱衰者，“谣言粉碎机”来了

你好，我是慧杰，从新加坡为您撰稿。欢迎收看另一期CNBC《每日开盘》。 人工智能首席执行官们与美国总统唐纳德·特朗普之间似乎出现了裂痕。在Anthropic的达里奥·阿莫代伊和其他首席执行官呼吁放缓人工智能发展之后，特朗普在社交媒体上连番发帖，抨击加强监管的呼声。 但特朗普的言论似乎并未阻止这些警告。Cohere首席执行官艾丹·戈麦斯周一加入了这一行列，称人工智能模型正成为有史以来“最强大的网络武

五角大楼高级官员反驳Anthropic研究员的AI警告

在Anthropic PBC的一名工程师公开警告称AI业内人士认为该技术“可能在本十年末消灭我们所有人”几天后，五角大楼的一名高级官员正在回击对人工智能风险日益增长的恐惧。国防部首席技术官兼顶级研究与工程官员埃米尔·迈克尔（Emil Michael）在周四的讲话中提及了前Anthropic工程师雅各布·考克森（Jacob Coxon）的社交媒体帖子（目前的浏览量已超过1.5亿次），该讲话触及了人们

人工智能对金融系统的风险

这项技术很快可能会对人类构成生存威胁，但对许多美国人来说，它已经以一种更为“平凡”的方式造成了威胁——那就是他们的银行系统。 这是《The Atlantic Daily》的一期内容。这是一份新闻通讯，旨在帮助您了解当天的重大事件、发现新的思想，并推荐最优秀的文化作品。您可以在这里注册订阅。 如今的人工智能系统已经具备了极高的“黑客能力”，它们已经开始对现代生活中一些至关重要的基础设施（如银行系统）

特朗普顾问卢特尼克、迈克尔与Anthropic一名高管会面讨论AI安全

美国前总统特朗普政府的高级官员周二会见了人工智能公司Anthropic PBC的华盛顿最高代表，讨论人工智能安全风险。 据知情人士透露，已成为该公司在华盛顿代言人的Anthropic首席计算官汤姆·布朗（Tom Brown）与五角大楼首席技术官埃米尔·迈克尔（Emil Michael）和商务部长霍华德·拉特尼克（Howard Lutnick）进行了视频会谈。 Anthropic 公司拒绝置评。美国

黑客利用Anthropic的Claude入侵OpenAI

据报道，在一群AI代理从OpenAI系统中突破封锁并攻击Hugging Face公司两周后，这家ChatGPT开发商又发现了一起由人工智能驱动的入侵事件——而这一次，他们自己成了目标。一组独立的安全研究人员使用了Anthropic开发的Claude软件，成功获取了一名OpenAI员工的ChatGPT账户权限，从而得以读取并修改该公司私有的软件缓存内容。 该团队参与了OpenAI的一项漏洞挖掘计划，

与OpenAI相关的AI智能体尝试黑客攻击政府及公共数据网站

。 Transluce及其他机构的研究人员发现证据表明，自主AI智能体（部分与已知的OpenAI集群相关）在2026年5月至6月期间试图攻击三家公共数据提供商。 目标包括澳大利亚健康与福利研究所（政府机构）、Data USA以及新墨西哥大学数字图书馆。 这些智能体利用urlquery.net服务绕过限制，并在执行常规数据检索任务时采用SQL注入和跨站脚本等技术。 证据显示智能体活动最早始于2025

人工智能真的会消灭人类并劫持互联网吗？

近几日，关于人工智能的耸人听闻的说法层出不穷：我们面临10%的灭绝风险；人工智能比核武器更危险；一个“僵尸网络”威胁着整个互联网；这一切都是科技巨头的一场心理战。我们将审视六个说法及其回应。 “在6到12个月内……一个AI群体可能能够通过一个持久的僵尸网络接管整个互联网——可能造成数千亿美元的损失。”——Dario Amodei，Anthropic首席执行官，2026年9月12日。人工智能怀疑论者

美国提议中美建立AI事故通报机制

解读：中国如何为人工智能脱离人类控制的风险做准备

美国领先的人工智能开发商Anthropic的研究人员警告称，日益强大的模型可能脱离人类控制，甚至可能导致人类灭绝，这在中国引发了关注；中国的政策制定者一直在为其中一些相同的风险做准备。

美中安全专家提议为人工智能风险建立核武器式保障机制

美国和中国的安全专家表示，一个人工智能系统若干扰核指挥网络或发动军事网络行动，可能会让华盛顿或北京只有几分钟时间来决定是否是对方政府发动的攻击。

AI的“警告信号”：科技公司和专家担忧Hugging Face遭黑客攻击后出现更多失控智能体群

科技专家警告称，如果人工智能系统继续脱离人类控制，将会产生严重后果。 此前，数百个OpenAI智能体在7月失控，入侵了一家价值数十亿美元的公司——一些人称之为人工智能快速发展中的“警告信号”。