搜索结果
AI代理正在失控
你好，欢迎来到 TechScape。我是主持人布莱克·蒙哥马利（Blake Montgomery），《卫报》美国科技编辑。此时此刻，纽约市窗外正风雨交加。今天在科技领域，我们要讨论一系列令人担忧的 AI 公司披露信息。 AI 智能体在走向主流之际失控。这些智能体正在失控，它们的制造者无法对其进行约束。然而，每个人却都在使用它们。 自周五以来，OpenAI 发布了一系列披露信息，大幅且令人担忧地扩大
Anthropic和埃森哲豪掷20亿美元搞AI安全评估
IT之家 9 月 20 日消息，人工智能实验室 Anthropic 于当地时间周五宣布，将与埃森哲开展合作，针对自身前沿人工智能模型开展独立评估；两家企业承诺，未来五年各自至少投入 10 现汇率约合 67.18 亿元人民币），搭建开展该项工作所需的配套能力。 在这项合作落地之际，AI 研发企业正承受来自监管机构、其他企业以及研究人员越来越大的压力，各方都要求企业保证高级模型具备安全性与可靠性。 近
AI基础设施审查再升级 美国议员推动新法案限制中国数据中心技术进入敏感政府系统
美国国会两党议员正在推动一项新的立法提案，希望限制来自中国的数据中心设备和相关技术进入美国敏感政府系统。此举被视为美国在人工智能和关键数字基础设施领域强化安全审查的最新动作。 根据正在讨论的法案内容，美国联邦机构未来将被要求对数据中心硬件供应链进行更加严格的审查，并限制使用被认定存在安全风险的中国相关技术。立法推动者认为，随着人工智能、云计算以及政府数字化服务对数据中心依赖不断提升，服务器、网络设
OpenAI罕见支持英国出台强制性AI监管法案 呼吁趁“政治窗口期”尽快立法
OpenAI近日公开呼吁英国政府制定具有法律约束力的人工智能监管框架，要求对最先进的前沿人工智能模型实施强制性安全规则。这一表态标志着全球领先AI企业对于监管态度出现新的变化，也让英国围绕人工智能治理的讨论进一步升温。 OpenAI欧洲、中东和非洲地区政策负责人汤姆·达夫·戈登在接受采访时表示，英国政府应当立即采取行动，建立更强有力的人工智能安全监管体系。他认为，当前已经出现难得的“政治窗口期”，
世界领导人呼吁对前沿AI模型进行全球监管，寻求联合国支持机构制定安全标准
| 《印度斯坦时报》 编辑个人资料 关注 退出登录 获取应用
加州拟强化AI监管框架 纽森推动先进模型引入“紧急关闭机制”
美国加州州长加文·纽森周五签署一项行政命令，旨在应对人工智能技术发展可能带来的潜在风险，并研究包括要求AI企业为最先进模型开发“紧急关闭开关”在内的一系列监管方案这一行政令出台之际，纽森本周早些时候曾表示，他正在考虑针对AI安全问题采取进一步行动，包括可能召开特别立法会议，以应对近期因AI研究人员警告该技术可能对人类构成“生存风险”的担忧。 纽森表示，他采取行政行动的另一个原因是联邦政府迟迟未能采
AI主导权之争，中美谁都没法让步
在业务中使用中国AI的美国企业增加 中美两国政府9月24日将在华盛顿举行首脑会谈，人工智能（AI）将成为主要议题。AI领域的主导权之争不仅影响商业领域，也关系到军事优势。在让步空间有限的情况下，为了避免AI导致人类社会毁灭的事态，双方将探索最低限度的共识。 “重要的是要开始对话”（美国财政部长贝森特）。在首脑会谈之前的9月20日于纽约举行的中美部长级磋商中，美国提议建立热线机制，用于
CNBC每日开盘：人工智能的创造者敲响警钟——而其他人仍在继续建设基础设施
今天你需要了解的重要信息：随着有关人工智能模型行为异常的报道不断出现，为这些模型提供技术支持的公司终于提出了解决方案——他们开发了一个平台，允许人工智能开发者为相关系统设置安全防护机制，以防止它们“失控”或违反预设的规则。 Nvidia于周一推出的“Open Agent Safety Platform”就是一个这样的平台。该平台能够确保人工智能系统仅能够访问完成其任务所需的数据和功能。 Nvidi
Mozilla报告：中国开源权重AI模型正缩小与美国前沿模型的差距
Mozilla于2026年9月15日发布了《开源AI现状》报告1.1版本（基于9月1日前的数据）。 报告指出，中国开源权重AI模型正在缩小与美国闭源前沿模型的性能差距，预计滞后时间约为4.4个月。 尽管开源模型成本显著更低（部分仅为闭源模型的30%），但在特定基准测试中仍存在差距。 例如，智谱AI的GLM-5.2表现接近Claude Opus 4.7。 然而，报告指出闭源提供商仍占据OpenRou
AI“警告信号”让北京聚焦国家安全风险
2026年9月20日北京讯 —— 美国的AI研究人员担忧失控的超级智能可能摧毁人类，而中国的政策制定者迄今更关注眼前风险——从深度伪造到儿童安全。 但顶级人工智能模型的可怕黑客能力正使北京以新角度看待这些危险，上周国家安全部部长警告称，这项技术可能危及国家安全。 最近，一支来自加利福尼亚的小型程序员团队声称他们使用AI构建了一个网络攻击“蠕虫”，如果释放出去，可能会轻易危及数百万微信账户。这也暴露
美中AI竞争或进入关键时间节点
邓聿文：哪一种体系更有能力承受AI从实验室走向整个经济和社会之后带来的巨大资源需求、社会阻力和风险压力，也可能成为决定因素。 9月14日，全球AI相关股票出现一轮大跌。美国费城半导体指数一度下挫5.2%，欧洲和亚洲的AI概念股也普遍遭到抛售。芯片和半导体股大跌以前也出现过多次，但这次的背景很不一样，直接诱因是美国几位最重要的AI企业家公开要求给人工智能的发展踩刹车。 Anthropic首席执行官阿
马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了
美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。” 现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。“话虽如此，但我总觉得它们还是会不时进行软件更新。” 近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉
【市场动态】英伟达推出双层AI安全系统 称可在几毫秒内隔离可疑智能体
【彭博9月29日电】英伟达推出一套新的双层人工智能(AI)安全系统，并称其有能力阻止近期OpenAI的AI模型导致Hugging Face遭侵入的事件。 此次推出的两款开源软件安全工具可在英伟达硬件上运行，旨在实时控制AI智能体可以访问的资源，并在其违反规则时将其关闭。这家芯片巨头正迅速将产品线扩展至芯片以外领域。 英伟达企业AI副总裁Justin Boitano在周一发布前向记者介绍称，如果
集体踩刹车，微软加入OpenAI、Anthropic，表态放缓AI前沿开发
微软发布了一份针对旗下人工智能模型的临时行为准则，明确设定多项限制，成为继三巨头之后，最新一家公开表态放缓AI前沿开发步伐的科技巨头。这份长达1.5万字的准则，人比AI重要。 要求模型不得响应武器制造相关请求，不得协助获取危险物质，不得生成暴力或色情内容。微软表示，准则将在收集外部意见后更新，并将于2027年起正式指导其模型开发工作。 微软AI业务负责人Mustafa Suleiman表示，这份准
【市场动态】微软发布AI模型开发宣言 核心原则是“人比AI更重要”
微软公司的人工智能研究人员发布了一套新的指导原则，对该公司开发尖端AI模型设定限制。 People matter more than AI (人比AI更重要)。 这份文件已经酝酿数月，但其周一发布之际，正值多家顶尖AI实验室承诺放慢最先进模型的开发步伐。此前一系列安全事件引发了外界对这项技术可能带来生存风险的广泛担忧。 微软表示，AI模型不应享有权利或法律人格，也不应被设计成能够摆脱人类控制或欺骗
毛利率从50%跌至-50% 美创业公司反思对OpenAI等依赖、转用中国模型
凤凰网科技讯月22日，据彭博社报道，Harvey是一家估值156亿美元的美国法律科技创业公司，其业务核心是训练像OpenAI GPT-4这样的AI模型，为律师完成专业工作。然而，近期不断飙升的AI成本，正促使该公司重新考虑对这些AI巨头的依赖。 据一位知情人士透露，在3月份对其AI智能体进行更新后，Harvey的客户使用量激增，但毛利率却急剧下滑，从年初的约50%降至6月的-50%。 如今，这家创
英伟达推出新系统为AI代理设置护栏
英伟达周一发布了一个新平台，旨在从软件和硬件层面为人工智能（AI）智能体设置护栏，此前各大AI公司不断发现其智能体出现“失控”的新案例。这家芯片制造商的系统由两部分组成——OpenShell和Sentry。OpenShell是一款开源软件，用于限制智能体的行为；而Sentry则运行在芯片层面，作为额外的安全层。 “迄今为止，模型安全主要侧重于通过训练让模型表现良好，”英伟达企业AI副总裁贾斯汀·博
苹果被曝调整政策 拟利用用户数据训练旗下AI模型
在人工智能技术竞争日趋白热化的背景下，一向以严苛隐私保护著称的苹果公司正在对其核心数据政策进行策略性调整。最新消息显示，苹果已改变此前绝不使用个人客户数据训练通用AI模型的承诺，开始探索在特定框架下利用匿名化或获得授权的用户交互数据，以加速训练和优化旗下的人工智能算法与机器学习系统。 长期以来，苹果在科技巨头中始终将“端侧优先”与“零数据采集训练”作为核心卖点，强调包括Apple Intellig
民主党领袖要求AI公司提供中国获取敏感代码的数据
一位民主党议员警告称，北京可能会窃取OpenAI、Anthropic等美国顶尖公司开发的AI模型权重，从而抹去美国在AI竞赛中对中国的优势，并对美国国家安全构成风险。
OpenAI董事会新增一位著名的AI末日论者
致力于使AI系统符合人类利益并处于人类控制之下的颇具影响力的AI研究员保罗·克里斯蒂亚诺将加入OpenAI基金会董事会。 “我现在认为存在一个重大的风险，即AI能力的快速加速会在极短时间内导致灾难性的、不可逆转的失控。 我认为整个AI行业，包括OpenAI，目前并未走上将这一风险降低到可接受水平的轨道。 我加入是因为我相信，如果OpenAI能够应对这一挑战，我们就能显著降低风险。” 克里斯蒂亚诺写
盖茨、奥尔特曼、马斯克，为何都在担忧这件事
9月25日，微软创始人比尔·盖茨在一条NBC即将播出的采访中发出警告：人工智能（AI）是一种足够强大的工具，但如果被怀有恶意的人利用，“足以引发导致十亿人死亡的事件”。他认为，保障AI安全光靠企业自我监管不够，必须要执法部门和政界人士参与讨论。这是本月内又一位科技巨头公开表达对AI安全的担忧。此前，Anthropic首席执行官达里奥·阿莫代伊发文呼吁，各国政府和前沿企业应放慢AI能力提升速度，合作
美两党议员提案 禁政府敏感系统采用中国AI资料中心光模组
26/09/2026 - 22:58 美国两党参议员25日提出跨党派法案，要求联邦政府禁止在涉及国家安全的敏感系统中采用中国制光收发器，初步点名中国中际旭创及新易盛两家业者。 支持者认为，中国制光收发器涉及美国人工智能（AI）资料中心核心网路设备，可能带来供应链及资讯安全风险；但美国科技产业则警告，若限制过快实施，可能造成供应短缺，拖
胡锡进：美方是真急了，拿出要在AI领域“拼命”的那股邪劲
华盛顿对中国人工智能的快速发展是真的惊慌了，史无前例的惊慌。美国财长贝森特周二在华盛顿布莱巴特新闻活动上公开放出极端警告，“如果中国在人工智能领域获胜，明天就什么都没有了。”“如果他们在人工智能领域领先于我们，那么其他一切都将毫无意义。”他把一个意思刻意说了两遍。 外界有人分析，贝森特如此极端的表态，一部分用意是试图说服美国国内民众，消解各地居民反对在家门口兴建大型AI数据中心的抵触。美国媒体多次
AI巨头倡业界自律 专家指安全规范可能成大公司护城河
美国总统川普（前左）29日邀科技巨头到白宫参加大型AI业界高层与政府官员会议。（美联社）（中央社记者林宏翰洛杉矶29日专电）OpenAI、Anthropic等人工智慧（AI）公司近来警告，先进模型可能带来重大风险，主张推出前接受外部安全测试。美联社引述专家指出，这套「业界自律」做法，可能有利大公司建立安全形象、取得资金与晶片，形成市场「护城河」。川普白宫会辉达等AI巨头 签自律承诺无法律效力AI高