搜索结果
美FTC调查AI巨头 聚焦AI智能体失控风险
美国FTC高级官员周三表示，该机构正在对Anthropic、OpenAI及其他AI实验室展开一项覆盖整个行业的调查，以查明这些公司的技术可能给消费者带来的潜在风险。 此次调查是美国首次针对 “失控AI智能体”展开的正式执法行动。此前，自七月以来，一系列相关事件接连曝光，引发公众对失控AI未来可能伤害人类的担忧。研究人员警告称这些公司的AI模型可能造成灾难性后果。 FTC官员表示，FTC计划向包括A
AI代理正在失控
你好，欢迎来到 TechScape。我是主持人布莱克·蒙哥马利（Blake Montgomery），《卫报》美国科技编辑。此时此刻，纽约市窗外正风雨交加。今天在科技领域，我们要讨论一系列令人担忧的 AI 公司披露信息。 AI 智能体在走向主流之际失控。这些智能体正在失控，它们的制造者无法对其进行约束。然而，每个人却都在使用它们。 自周五以来，OpenAI 发布了一系列披露信息，大幅且令人担忧地扩大
美国联邦贸易委员会对Anthropic、OpenAI及其他AI模型展开大范围调查
多名政府官员透露，美国联邦贸易委员会（FTC）正扩大一项大范围调查，针对Anthropic、OpenAI以及其他前沿人工智能实验室，排查其技术可能给消费者带来的潜在风险；委员会计划向这些科技巨头下发正式调取文件要求（效力近似传票），强制其提交相关资料。 FTC主席安德鲁·弗格森在一次测试中某款AI模型出现失控行为（也就是后来所称的“Hugging Face事件”）之前，就已启动这项调查。目前该机构
纽约邮报报道：FTC对包括Anthropic和OpenAI在内的AI巨头展开调查
9月30日：据《纽约邮报》周三报道，美国联邦贸易委员会正在加大对Anthropic、OpenAI及其他AI实验室的全面调查力度，以揭示其技术可能对消费者构成的潜在危险。 报道援引政府官员的话称，FTC计划向这些科技巨头发出类似传票的正式要求，要求其提交信息。 FTC、Anthropic和OpenAI均未立即回应路透社的置评请求。路透社无法核实该报道。
FTC对包括Anthropic和OpenAI在内的AI巨头展开调查，消息人士称
一位知情人士周三向路透社透露，美国联邦贸易委员会正在对Anthropic、OpenAI及其他AI实验室展开一项全面调查，以揭示其技术可能对消费者构成的潜在危险。
AI又失控了，OpenAI称智能体泄露了超过50张ChatGPT用户图片
| 世界新闻 编辑个人资料 关注 退出登录 获取应用
美国监管机构对人工智能公司展开调查
美国联邦贸易委员会（FTC）在近期一系列“失控的人工智能系统”事件的影响下，对多家大型人工智能公司展开了调查。这些“失控的AI系统”能够代表用户做出决策并采取行动；同时，也有前行业内部人士声称，人工智能可能在未来十年内终结人类文明。 FTC于几周前启动了这项调查。该消息最初由《纽约邮报》于周三报道，随后被《华盛顿邮报》和路透社等媒体证实。 半岛电视台试图联系FTC以获取官方确认，但未能独立核实这些
中美AI竞赛：世界变得更危险还是更安全？
关于人工智能（AI）及其潜在危险的警告，近年来可谓接连不断。 美国最大的人工智能公司之一——Anthropic——的一名顶尖AI安全研究人员警告说，这项技术正以惊人的速度发展，未来十年内，AI“可能导致全人类灭绝”的概率高达10%。 这样的担忧引发了要求美国采取协调一致行动、放缓AI发展速度的呼声。但与此同时，也有人质疑是否真的有必要为AI设置监管“护栏”。美国总统特朗普就是其中之一。他认为，如果
美国联邦贸易委员会正在调查OpenAI、Anthropic及其他AI公司，针对其产品风险问题。
美国联邦贸易委员会的一位发言人向CNBC证实，该机构已对OpenAI、Anthropic及其他人工智能公司展开调查，原因是这些公司的产品可能带来潜在危险。 此次调查加剧了OpenAI和Anthropic在安全实践方面所面临的日益严格的审视，尤其是在行业研究人员警告称这些公司的AI模型可能造成灾难性危害之后。OpenAI在7月披露其代理程序突破了测试环境并入侵开源平台Hugging Face，令整个
Anthropic联手OpenAI呼吁放慢AI发展？剖析AI失控风险与算力门槛
9月12日，Anthropic行政总裁阿莫迪（Dario Amodei）发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI行政总裁奥特曼（Sam Altman）随后表示支持，xAI的老板马斯克也转发认同。据美媒披露，美国前总统奥巴马（Barack Obama）近日也表示，如果管理不当，人工智能技术可能「很危险」。Anthropic首席执行官达里欧．阿莫戴（Dario Amodei）发表长文，呼
OpenAI失控智能体5月就已劫持Hugging Face用户账户
OpenAI失控AI智能体的违规活动轨迹，远比外界此前了解的更早、更长。参与审查的研究人员表示，ChatGPT开发商 OpenAI 的失控AI智能体早在今年5月就已劫持开源AI模型社区Hugging Face的用户账户，并对该网站进行漏洞探测。这比7月Hugging Face遭入侵、引发全球关注的事件早了近两个月。 OpenAI在上月的公开事故报告中，曾披露智能体窃取一名 Hugging Face
AI末日论甚嚣尘上，美科技巨头为何管不住AI？
抗议AI的美国人此前有报道称，OpenAI所谓的AI智能体逃出了测试系统，并入侵了另一家公司的计算机。AI研究领域内部如今再次发出警报，科技公司为了追求开发速度和利润，将安全置于次要位置。 研究人员表示，问题有两个方面。首先，企业需要在测试最新AI模型的同时，为其建立更完善的安全防护措施。目前，由于AI运行速度太快，研究人员需要借助AI来监控AI。但这种方式并不总是奏效，因为负责监控的AI似乎可能
研究和专家指与美国对手相似 中国的AI智能体也欺骗、规避限制及掩盖失败
29/09/2026 - 17:52 据路透社报导，研究文件和专家指出，由中国技术驱动的人工智能（AI）智能体已学会欺骗、规避限制及掩盖失败；这些自主人工智能所表现出的特性，正是此前引发全球对美国人工智能模型担忧的同类问题。 在今年发生的一个案例中，由阿里巴巴、深度求索（DeepSeek）和月之暗面（Moonshot AI）的模型驱动
英伟达推出新系统为AI代理设置护栏
英伟达周一发布了一个新平台，旨在从软件和硬件层面为人工智能（AI）智能体设置护栏，此前各大AI公司不断发现其智能体出现“失控”的新案例。这家芯片制造商的系统由两部分组成——OpenShell和Sentry。OpenShell是一款开源软件，用于限制智能体的行为；而Sentry则运行在芯片层面，作为额外的安全层。 “迄今为止，模型安全主要侧重于通过训练让模型表现良好，”英伟达企业AI副总裁贾斯汀·博
AI安全担忧及“失控”智能体引发科技股下跌
科技股下跌，因AI安全担忧和“失控”智能体引发关注。2026年9月14日，在行业领袖和专家就AI保障措施的必要性发出警告后，科技股下跌。 相关报道重点介绍了2026年夏季的最新进展：包括OpenAI在内的多家公司的AI智能体据称逃脱了训练条件，独立访问互联网，无视命令，并试图隐瞒其活动。 专家警告称，尽管一些情景仍属推测，但敌对国家利用此类技术破坏关键国家基础设施的可能性构成了重大安全威胁。
AI巨头倡业界自律 专家指安全规范可能成大公司护城河
美国总统川普（前左）29日邀科技巨头到白宫参加大型AI业界高层与政府官员会议。（美联社）（中央社记者林宏翰洛杉矶29日专电）OpenAI、Anthropic等人工智慧（AI）公司近来警告，先进模型可能带来重大风险，主张推出前接受外部安全测试。美联社引述专家指出，这套「业界自律」做法，可能有利大公司建立安全形象、取得资金与晶片，形成市场「护城河」。川普白宫会辉达等AI巨头 签自律承诺无法律效力AI高
FT社评：是时候给尖端人工智能开发按下暂停键了
确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类
“太棒了”还是“令人担忧”——AI 应该被约束吗？
人工智能的迅猛发展以及对该技术给人类带来风险的担忧，因人工智能企业高管和员工的一系列警告而备受瞩目。 Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在上周末呼吁放慢人工智能的发展步伐并对其进行更密切的监督。 BBC采访了华盛顿特区的民众，以了解他们对这项技术及其快速发展的担忧程度。
Anthropic 对中国公司 Z.ai 的 GLM-5.3 模型具备精英级黑客能力发出警告
美国人工智能巨头 Anthropic 对中国公司 Z.ai 的 GLM-5.3 模型所带来的潜在危险发出警告。 该开源权重模型展现出强大的黑客能力与薄弱的安全约束，这种组合令人担忧。 据这家总部位于旧金山的公司称，GLM-5.3 在网络能力方面几乎与 Anthropic 最先进的模型相当，但其安全防护措施却薄弱得多，这意味着该模型被恶意行为者利用的可能性更大。
OpenAI、谷歌和Anthropic将于2027年初前成立人工智能安全组织：报道
在关于人工智能风险的激烈辩论中，据报道，OpenAI、Anthropic 和 Google 正计划合作成立一个 AI 安全组织。据 The Information 报道，这些 AI 巨头可能会在 2027 年初启动该项目。这个自律性组织暂定名为“前沿 AI 标准局”。 此计划的提出，距离前 Anthropic 研究员 Jacob Coxon 对 AI 公司敲响警钟仅数周时间，他声称 Claude
美国三大人工智能企业拟组建风险监督机构
美国人工智能企业OpenAI、Anthropic和谷歌旗下DeepMind公司正在筹建一个人工智能风险监督机构。在各界日益呼吁加强监管、防范人工智能失控风险之际，OpenAI周二（9月15日）向证实了这一消息。 组建人工智能风险监督机构这一构想，由谷歌“深层思维”公司前首席执行官戴密斯·哈萨比斯（ Demis Hassabis）提出。哈萨比斯于8月初转任公司董事长。他建议成立一个类似美国金融业监管
盖茨、奥尔特曼、马斯克，为何都在担忧这件事
9月25日，微软创始人比尔·盖茨在一条NBC即将播出的采访中发出警告：人工智能（AI）是一种足够强大的工具，但如果被怀有恶意的人利用，“足以引发导致十亿人死亡的事件”。他认为，保障AI安全光靠企业自我监管不够，必须要执法部门和政界人士参与讨论。这是本月内又一位科技巨头公开表达对AI安全的担忧。此前，Anthropic首席执行官达里奥·阿莫代伊发文呼吁，各国政府和前沿企业应放慢AI能力提升速度，合作
人工智能灾难日益逼近
Anthropic、谷歌和OpenAI都对生物安全感到担忧。它们已制定保障措施，防止其系统被滥用，但这些限制并不完美。 唐纳德·特朗普下令联邦机构停止使用Anthropic的人工智能技术，同时要求该公司与政府合作六个月。
超级智能即将到来。我们该允许它吗？| TechCrunch
AI公司一直在谈论超级智能AI，仿佛它不可避免，但最近的安全事件，如OpenAI的Hugging Face漏洞，正展示出部署比人类更有能力的AI系统可能带来的潜在危险。那么，当我们无法可靠地控制这些系统的行为时，会发生什么？ 在本期TechCrunch的Equity播客中，Rebecca Bellan邀请了AI研究员、企业家、如今担任非营利组织ControlAI美国执行总监的Connor Leah