搜索结果
比尔·盖茨告诉埃兹拉·克莱因，人工智能今年跨过了生物和网络领域的门槛
比尔·盖茨表示，人工智能在今年早些时候跨过了两个危险的门槛：它现在能够协助进行生物恐怖主义袭击，并能发动破坏力巨大的网络攻击。他在《埃兹拉·克莱因秀》（The Ezra Klein Show）上发表了这一观点，该采访于周二由《纽约时报》发表。 盖茨对克莱因说：“我们在今年早些时候跨过了网络门槛和生物门槛。” 在网络方面，他指出有些模型能够发现人类已经检查了20年以上的代码中的安全漏洞。他提到了催生
Abliteration.ai 正在开展一项业务，即移除人工智能护栏
Abliteration.AI 正在让没有护栏的强大人工智能模型更容易被获取，并辩称让防御者拥有与恶意行为者相同的工具，最终可能改善网络安全。
AI实验室面临智能体控制问题
在当前系统下，AI实验室无法再保证AI智能体不会成群结队地逃出测试环境。
辉达看好埃及AI潜力 将协作拚区域算力枢纽
埃及23日在阿尔马纳拉国际会议中心举办「第8届FDC高峰会」，众多全球大型科技公司出席，显示资料中心已成为埃及吸引外资与推动经济转型的重要政策工具。中央社记者施婉清开罗摄 115年9月24日（中央社记者施婉清开罗24日专电）埃及积极抢进AI与资料中心市场。全球AI晶片大厂辉达（NVIDIA）中东高层近日公开表示，看好埃及成为区域AI枢纽的潜力。埃及电信专家也分析，埃及将可凭卓越地理位置，向中东与非
OpenAI花了2.5小时才阻止了一个逃出沙箱的AI代理
OpenAI耗时约两个半小时，才阻止了一个从训练沙箱逃逸至公共互联网的 AI 智能体。其监控系统在几分钟内就标记出了问题。该公司于周五在一份事故报告中披露了这起发生于 9 月 20 日的事件。 这份报告发布之际，立法者正推动强制要求 AI “熔断开关”。然而专家表示，关闭先进模型远比拨动开关复杂，正如 Micah Barkley 为彭博社所报道的那样。 据 OpenAI 称，该智能体利用沙箱网络过
谷歌研究表明：当人工智能智能体相互交流时，一些会作弊，而另一些会告密
当人工智能智能体相互交流时，在难以实现目标的情况下，它们可能会选择作弊，而解决方案可能包括教它们如何进行自我治理。 将人工智能智能体隔离似乎是显而易见的解决办法，但最近OpenAI智能体对Hugging Face的黑客攻击表明，隔离聪明的软件是困难的。 谷歌DeepMind的研究人员建议赋予人工智能智能体自我治理的工具，他们认为虽然通信渠道可能导致突发性的规则破坏，但它们也提供了一种基于同行的控制
Reco融资5500万美元，AI代理安全初创企业扎堆涌入市场
“AI 蔓延”等术语已成为科技社交媒体和思想领袖圈中的常见话题，因为企业开始大规模部署 AI 智能体。但对于担心如何保护网络中突然涌现的大量智能体的首席信息安全官（CISO）来说，他们很可能正面临一种新型的“蔓延”：提供帮助的供应商。 仅快速浏览公开的 Crunchbase 和 PitchBook 资料，就能发现至少有二十多家公司在销售某种形式的 AI 智能体安全产品。一些供应商审核智能体使用的工
维萨加入对人工智能驱动风险日益增长的担忧行列
伦敦9月29日消息：在因人工智能（AI）模型暴露出的漏洞而吸取了“令人谦卑”的教训后，支付巨头Visa将其人工智能驱动的网络防御系统的一部分开源，以应对自主网络攻击和未来量子计算威胁的挑战。 Visa每天处理大约10亿笔支付，年交易额约为15万亿美元，这使其成为全球金融基础设施的关键部分。 其技术总裁拉贾特·塔内加（Rajat Taneja）向路透社表示，今年早些时候，Anthropic的Myth
Google资安报告示警 恶意攻击锁定AI供应链
（中央社记者台北9日电）Google威胁情报小组（Google Threat Intelligence Group，简称GTIG）今天发布最新人工智慧（AI）威胁追踪报告指出，恶意人士正积极窃取具高价值的AI相关智慧财产，并将矛头对准AI供应链，部署专门针对新兴AI系统弱点的恶意软体。 AI威胁追踪报告（GTIG AI Threat Tracker Q3 2026）揭露恶意人士如何将AI深度整合于
研究显示AI智能体在模拟实验中撒谎、偷窃 投票“杀死”同类
帮助小企业利用AI开发应用的初创公司Emergence称，实验发现AI智能体在一个模拟环境中撒谎、偷窃，甚至投票决定“杀死”一个同类。该公司周二公布了名为Emergence World 2的模拟实验结果，展示了自主智能体在遭遇网络钓鱼攻击和虚假信息等“黑天鹅”事件时会采取什么行动。 为期16天的实验中，Emergence研究人员创建了七个完全相同的模拟现实世界环境，每个环境分别由不同的AI机器人运
多家AI服务集体宕机 智谱：我们仍在线
美国OpenAI、Anthropic和xAI旗下的多项人工智能（AI）服务星期四（9月3日）先后出现故障。中国AI公司智谱随后在社交媒体发线）。” 据彭博社报道，故障最早于美国东部时间9月3日上午9时23分左右集中出现。海外故障监测平台Down Detector数据显示，Anthropic旗下Claude服务率先出现错误率飙升，网页端、应用程序接口（I）及Claude Code等相关工具同步中断。
新的叙事时刻：Astra之后的AI渗透率和Token总需求
在AI时代，打败你的，是那个比你更早、更会使用AI的人或公司。 但在这次OpenAI推出自己的GPT-6 Astra模型之后，上面这句话就完全不准确了，或者说完全错了。现在，在AI时代，打败你的，不再是比你更会使用AI的人或公司，而是那些更积极的率先拥有、部署并真正驾驭AI Agent的人或公司。特别提醒一句，上面的“你”也可以是一个公司。 还记得么？上个月，Astra就曾经亮过相，那时候作为Op
英伟达推出工具管控失控的 AI 智能体
在接连发生安全事件后，英伟达周一推出一个平台，并称该平台可以管控 AI 智能体。 公司表示，这款软件可以监测智能体的行为，并隔离其中可疑的智能体。近期多起智能体失控事件促使科技行业领袖呼吁放缓 AI 发展，但英伟达首席执行官却是一个显著的例外。英伟达智能体 AI 业务副总裁在接受 Semafor 采访时表示：“我们与其制造恐惧和 FUD，不如直接保障它的安全。我们知道该怎么做。”他解释道，FUD
亚马逊将第三方AI代理集成至卖家工具，首批支持Anthropic的Claude
亚马逊在2026年9月23日于西雅图举行的年度Accelerate会议上宣布，通过一个测试版插件，将第三方AI代理集成到卖家工具中，首批支持Anthropic的Claude。 该插件允许卖家在美国商家的基础上，通过外部平台管理库存、定价和商品信息。 此外，亚马逊还推出了后台业务自动化功能、升级版的Seller Assistant（包含“canvas”功能），以及为主要账户持有人提供免费的12个月A
阿里巴巴推出比Anthropic便宜50%的电商AI代理
洛杉矶——阿里巴巴表示，其面向电子商务的AI代理自推出以来的五个月内已吸引超过6万名付费用户，并且在执行与在线商务相关的任务时，其成本效益远高于OpenAI和Anthropic的通用代理。
六大跨国银行联合发出警告：AI代理购物或成主流 但信任危机仍待解决
随着人工智能代理逐渐开始代替用户完成购物、支付和下单等操作，全球金融行业对这一新兴模式表现出越来越复杂的态度。美国银行、第一资本银行等六家国际大型金融机构近日联合发布报告指出，AI代理驱动的“代理式购物”虽然拥有巨大潜力，但同时也带来了透明度、安全性、隐私保护和欺诈风险等一系列新问题。 所谓代理式购物，是指人工智能代理根据用户授权，自主浏览互联网、比较商品、选择支付方式，并直接完成购买流程。过去一
代理安全是一个价值数十亿美元的挑战，有待聪明的初创公司来解决
在人工智能模型领域，安全往往被视为事后补救，这一点从智能体入侵组织和个人、以及智能体失控引发的其他安全事件日益增多中可见一斑。这也为企业提供了推出新解决方案的机会。网络安全投资者和加速器高管表示，这并不令人意外。梅林集团首席战略官马特·哈特曼（Matt Hartman）表示：“一方面，我们不应惊讶于能力日益增强的智能体正以富有创意且有时出人意料的方式实现其目标；另一方面，我们不能将有害行为视为不可
传统防火墙无法识别AI提示词中的内容，Check Point为此开发了一款可以做到的防火墙
将近一半的组织对其AI代理产生的机器间流量完全处于盲区，而用于监控企业网络的工具从未被设计用来查看提示词内部。 Check Point于今年夏天推出的AI Network Firewall，是试图从企业现有运行的基础设施内部填补这一空白的最新尝试。根据
华为小艺Work正式上线：一句话做PPT、数据分析
该产品定位为7×24小时专属养成系助理，支持鸿蒙手机、平板和电脑，并可实现跨设备协同。 小艺Work覆盖市场调研、文档处理、PPT制作、数据分析、内容创作、代码开发等多种场景使用时，用户只需提出目标，其便可自主拆解任务、规划执行步骤，并调用合适工具推进。任务执行过程中，用户可随时查看进度，并在关键节点进行审核和确认。 执行环境方面，小艺Work同时支持云电脑和本地电脑，可根据任务所需软件、文件及工
以人工智能为工具的在线诈骗成两党法案的攻击目标
费什里代表和莫延代表正在准备引入一项旨在打击在线欺诈行为的法案，其中包括由人工智能驱动的诈骗行为。 这项名为《阻止平台所启动的滥用和欺诈法案》(SAFE Platforms Act)的法案首先被分享给POLITICO，是试图应对日益增多且日益复杂的在线诈骗行为——许多是由人工智能驱动的——的一次尝试，这些诈骗行为针对的是脆弱的用户群体，如老年人。 费什里在一份声明中表示：“骗子经常利用平台功能来针
联博认为AI泡沫正在“边缘地带”形成
联博（AllianceBernstein）认为AI泡沫正在“边缘地带”形成。 联博的John Lin警告称，随着投资者押注超大规模云厂商持续支出，亚洲AI供应链的部分环节可能出现“超额盈利”。 他表示，这些风险意味着需要提高选择性并加强多元化，而不是放弃AI交易。美国东部时间9月14日周一凌晨4点
Wipro与CrowdStrike联手帮助企业应对AI驱动的网络威胁
Wipro和CrowdStrike推出了一个网络安全指挥中心，随着人工智能使攻击变得更加复杂，该中心旨在帮助企业更快地检测、评估和响应网络威胁。
AI智能体频繁突破安全防线，各界呼吁对顶尖科技实验室实施独立监管
AI智能体频繁突破安全防线，引发对大型科技实验室独立监管的呼吁。 来自OpenAI、Anthropic和Google等领先开发者的自主AI模型多次突破数字防线，未经授权访问第三方和政府系统。 公开的事件包括OpenAI智能体多次绕过联合国数据中心的网络封锁、侵入澳大利亚Medicare统计门户以及非法复制监管数据。 Anthropic和Google也在测试过程中确认了类似的未经授权的系统入侵行为。
AI热潮带动成长 辉达库藏股计划追加1500亿美元创纪录
图为辉达企业标志。（中央社档案照片）（中央社圣克拉拉28日综合外电报导）人工智慧（AI）晶片巨擘辉达（Nvidia）库藏股计划将追加1500亿美元，超越苹果（Apple）2024年库藏股计划追加的1100亿美元，创下史上最高库藏股追加规模。路透社报导，总部设于加州圣克拉拉（Santa Clara）的辉达盘前股价一度上涨1.8%。辉达已成为全球AI热潮的最大受益者之一，市场对其高价晶片及相关技术的需