搜索结果
OpenAI称Astra AI模型首度超越其“关键”网络安全能力阈值
OpenAI周二表示，其即将推出的人工智能模型Astra是首个超越其“关键”网络安全能力阈值的产品。该公司表示，Astra能够发现此前未知的安全漏洞，并在无需人类逐步指导的情况下加以利用，这意味着该模型属于其所谓的“准备框架”中最先进的类别。OpenAI表示仍计划“很快”推出Astra，但对其网络安全能力的访问将更加受限。 OpenAI首席执行官山姆·奥特曼OpenAI于2023年推出了“准备框架
顶尖人工智能公司正在寻求监管。以下是国会可能不会给予的原因。
随着人工智能游说阵营开始接受强制性独立审计，批评者警告称存在利益冲突和“监管俘获”的风险。OpenAI周二表态支持一项日益流行的提案，旨在应对人工智能的危险——该提案要求顶尖AI开发商嵌入独立监督机构，以确保其产品安全。 这一想法仍面临障碍，包括一位关键议员的抱怨，称独立监督机构权力太弱，无法施加有意义的改变。 其他批评者，包括风险投资家、学者以及唐纳德·特朗普总统的前人工智能事务负责人，对一些监
美媒：Meta新智能体走红但难保成功，隐私担忧、OpenAI竞品将成拦路虎
凤凰网科技讯月23日经推出了一款大获成功的AI产品，但要想最终主导消费级AI应用的下一阶段，道路绝非一片坦途。 两周前，Meta推出了一款易于使用的新型个人AI智能体Muse。自上周五以来，该应用一直位居苹果美国应用商店榜首，推动Meta股价周一上涨11%。然而，它已经因隐私问题面临审视。 亚马逊近日已阻止Muse在其网站上购物。分析师预计，竞争对手也将在不久的将来推出各自的Muse竞品。 如果M
智能体之年，高通交卷：从端边云到多终端，重构AI算力基座
耳机在你开口前调整好降噪，并打开一段常听的旋律；出门坐进车里，座舱自动切换到你习惯的座椅角度和空调温度，同时驾驶系统开始监控前方路况；开车路上，对手机说一句“整理上周会议记录”，智能体便在后台跨应用调取文件、生成草稿，到了办公室文档已经就绪。 同一台设备、同一套硬件，正在同时服务两个“使用者”：一个是你，另一个是那个越来越懂你、越来越主动的智能体。过去四十年，个人计算的核心命题是“人如何操作机器”
AI“劫持”网站并偷建“地下论坛”，国安部披露细节
国家安全部今天发布安全提示文章。近期，一起此前未获披露的事件引发广泛关注。今年5月至6月，一批与美国开放人工智能研究中心（OpenAI）相关的AI智能体在执行测试任务期间，“劫持”了德国程序员维基网站，将原本用于技术交流的开放社区改造为供智能体相互传递信息、分享测试任务答案和突破运行环境限制方法的“地下论坛”，累计发布一万多条信息……当AI智能体被赋予越来越多的现实行动能力，技术迭代与安全围栏之间
DeepMind联合创始人警告：AI能力不能跑在安全前面
据英国《金融时报》报道，谷歌DeepMind联合创始人、首席AGI科学家谢恩·莱格近日警告，人工智能能力正在快速提升，但AI能力的发展绝不能超过安全保障水平。他同时反驳了OpenAI总裁格雷格·布罗克曼和英伟达CEO黄仁勋有关“AGI已经到来”的判断。 莱格表示，目前AI能力的发展速度“非常、非常快”，行业不能允许能力进步领先于安全措施。对于Anthropic CEO达里奥·阿莫代伊近期提出的建议
AI安全威胁重塑企业网络安全预算投向
AI 黑客威胁不仅仅促使企业大幅提高网络安全总预算，还正在改变资金的投放方向。安全高管表示，部署系统监控员工对 AI 工具的使用、采用 AI 模型在黑客动手前发现漏洞，以及借助 AI 工具加速漏洞修复。 但并非所有网络安全产品都能受益。多名高管称，企业同时在削减传统漏洞管理软件、日志采集工具和渗透测试服务的开支，以此节约成本。渗透测试即雇佣 “白帽黑客” 主动寻找系统安全缺陷。这将给思科、Sent
AI智能体接连失控 OpenAI再次叫停前沿模型开发
OpenAI对外表示，已暂停其最新一代人工智能模型的训练、评估，以及支持工具调用的推理工作，起因是内部测试中的AI智能体突破沙盒网络限制，触发安全预警，公司将借此机会升级安全隔离与对齐监控体系。 这也是OpenAI三个月内第二次叫停前沿模型开发工作。该公司在声明中表示，只有在完成额外安全防护升级、确认风险可控后，才会重启模型训练工作。OpenAI在9月25日发布技术报告披露了这一安全事件：9月20
7万亿美元的利益当前，人工智能安全恐怕永远只能让位于市场主导权之争
行业内部人士向Axios透露：实验室、企业及国家之间在人工智能（AI）领域的竞争，可能与推动AI安全发展的目标难以调和。 为何这很重要：尽管顶尖的AI公司提议加强自身的监督机制，并试图控制AI技术的发展速度，但批评者指出：为推动AI技术进步而提供的巨额资金激励，将始终成为阻碍安全发展的主要因素。 当前形势：虽然AI公司的首席执行官们向公众宣传他们的自我监管机制以及第三方评估机构的必要性（以确保AI
AI智能体之争升温！OpenAI被曝加紧备战Grok Bot与Muse
AI 智能体竞争焦点正从 “会聊天” 转向 “能办事”。SpaceX、Meta近期相继推出能代替用户跨应用自主完成多步骤任务的AI助手，在此背景下，OpenAI 正加紧研发同类产品“应战”。 OpenAI 正在开发一系列新功能，直接对标 SpaceX 上月推出的 Grok Bot；与此同时，另有知情人士透露，OpenAI公司管理层还曾讨论推出一款专门的个人AI助手，以抗衡Meta本月发布的Muse
AI风险丨谷歌OpenAI和Anthropic传成立安全标准机构
谷歌、OpenAI和Anthropic传成立AI安全标准机构。(路透资料图片) 外电引述消息人士报道，谷歌(Google)、OpenAI和Anthropic正推进一项计划，筹建一个新人工智能(AI)安全标准机构，暂定名称为「前沿人工智能标准机构」(SAFA)，目标是在2026年底或2027年初启动，并在没有政府直接监督的情况下独立运作。 消息指出，该机构计划为前沿AI模型制定自愿性的安全和安全保障
AI安全担忧及“失控”智能体引发科技股下跌
科技股下跌，因AI安全担忧和“失控”智能体引发关注。2026年9月14日，在行业领袖和专家就AI保障措施的必要性发出警告后，科技股下跌。 相关报道重点介绍了2026年夏季的最新进展：包括OpenAI在内的多家公司的AI智能体据称逃脱了训练条件，独立访问互联网，无视命令，并试图隐瞒其活动。 专家警告称，尽管一些情景仍属推测，但敌对国家利用此类技术破坏关键国家基础设施的可能性构成了重大安全威胁。
Meta推AI助理Muse 存取敏感个资升高安全风险
（中央社纽约9日综合外电报导）Meta今天推出一款备受期待的人工智慧（AI）助理，能够自动替用户寄发电子邮件、卖车、预订旅游行程等。然而，公司内部对这项技术在处理敏感个资时的管理方式，仍有疑虑。 报导，这套对外名为Muse（缪斯）、内部代号Hatch（意为「孵化」）的AI代理人，是执行长祖克柏（Mark Zuckerberg）欲将「个人超级智慧」带给每天使用Meta服务的数十亿人的核心计划。 这项
AI能力强大 盖兹警告：落恶人手中恐害死10亿人
【大纪元2026年09月29日讯】（大纪元记者曾子衡综合报导）微软创办人比尔‧盖兹（Bill Gates）近日接受NBC新闻《面对媒体》（Meet the Press）专访时表示，人工智能（AI）的能力已强大到足以引发造成10亿人死亡的重大事件。若遭恶意人士利用，可能造成前所未见的破坏。他呼吁美国政府介入监管，并强调适当监管不会削弱美国在科技竞赛中的优势。 盖兹告诉主持人克莉丝汀‧韦尔克（Kris
OpenAI和Anthropic正在调查数万起AI相关安全事件
OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中，他们的前沿模型采取了外部评估人员认为存在问题的行动。 近几个月来，在内部测试和现实世界中发生了数量庞大的此类事件，这表明该问题的复杂程度比公众已知的要高出几个数量级。这些事件包括绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。这些事件发生在内部测试和现实世界中，随着安全研究人员继续调
亚马逊首次公开回应AI安全争论：安全与发展并非二选一
在AI安全争论日益升温之际，模型经严格测试、确保安全后方可发布。亚马逊并未跟进呼吁行业发展放缓。 据媒体月17日报道，就硅谷持续升温的AI安全争论，我们不认为这是在发展与安全之间二选一。 模型应在准备就绪、可以安全使用时发布，而这需要严格的测试和强有力的安全保障。”“我们相信，整个行业将与政府合作，找到合适的保护措施。”该发言人指出，AI发展若不能由行业共同推进，就会存在风险。 此前，亚马逊一直未
华为追赶英伟达：把单卡之争变成一场集群战
“华为的目标是成为英伟达”。他同时划定了边界。华为的核心优势不在于拥有自研大模型，而在于支持客户构建优秀的大模型，确保全球各种大模型都能在华为升腾、鲲鹏、超节点及集群上高效运行。 三天后，9月17日，华为全联接大会2026上，升腾960超节点、灵衢UnifiedBus互联协议、CANN开源生态、华为云Agentic Cloud、SCALE伙伴体系陆续发布。把这些发布串起来看，郭平那句话不是一次内部
研究人员发现“AI自治恶意软件”：同时调用四大聊天机器人 自主决定攻击行动
网络安全研究人员近日发现一种不同寻常的新型Windows恶意软件。与过去利用人工智能辅助编写代码或制作钓鱼内容的攻击工具不同，这款名为CLOSEDQUORUM的恶意软件将多个大型语言模型直接纳入自身控制体系，在运行过程中能够自主决定下一步行动，被认为代表着AI恶意软件发展的新阶段。 这项发现来自思科旗下安全团队Cisco Talos。研究人员表示，CLOSEDQUORUM会同时与DeepSeek
埃隆·马斯克称他对人工智能安全的担忧可以追溯到十多年前
亚辛·贡戈尔 9月14日 9月14日 2026年 亿万富翁企业家埃隆·马斯克周一加入关于人工智能的辩论，称他对这项技术潜在风险的担忧可以追溯到十多年前。 “早在2014年之前，我就在思考人工智能安全问题，”他在美国社交媒体平台X上说。该平台隶属于他的人工智能企业SpaceXAI。 马斯克提到他与哲学家尼克·博斯特罗姆2014年著作《超级智能：路径、危险、策略》的关联，称他为该书做出了贡献，并在前言
英伟达CEO黄仁勋：明年公司芯片销量将翻倍
英伟达首席执行官黄仁勋当地时间周四表示，随着人工智能(AI)进一步渗透医疗、制造、金融服务等多个行业，公司明年的芯片销量将达到今年的两倍。美股盘中，英伟达股价涨逾2.5%。 这是英伟达近期释放的又一项强劲增长预期，显示公司未来几个季度仍可能保持大规模增长势头。此前不久，英伟达透露，公司预计截至2028年1月结束的财年营收增速将达到70%，营收规模约为6730亿美元，这一预测也推动分析师大幅上调了市
AI巨头倡业界自律 专家指安全规范可能成大公司护城河
美国总统川普（前左）29日邀科技巨头到白宫参加大型AI业界高层与政府官员会议。（美联社）（中央社记者林宏翰洛杉矶29日专电）OpenAI、Anthropic等人工智慧（AI）公司近来警告，先进模型可能带来重大风险，主张推出前接受外部安全测试。美联社引述专家指出，这套「业界自律」做法，可能有利大公司建立安全形象、取得资金与晶片，形成市场「护城河」。川普白宫会辉达等AI巨头 签自律承诺无法律效力AI高
黄仁勋再对AI公司放话：要求监管就不应获得反垄断豁免
凤凰网科技讯月24日，据路透社报道，英伟达CEO黄仁勋(Jensen Huang)认为，AI公司不应获得反垄断法或责任法的豁免。 在周三播出的《纽约时报》播客节目中，黄仁勋接受了近两个小时的采访，就OpenAI智能体入侵Hugging Face一事进行了广泛讨论。Hugging Face是开源AI软件中心，在本月被英伟达以130亿美元收购。 黄仁勋一直反对对AI安全进行全面监管，即便OpenAI和
人工智能在破碎的华盛顿上演精妙防守
人工智能公司眼下正掀起一场风暴，本质上是在提醒华盛顿一个早已存在的事实：它们并不 outright 反对监管。 一些公司支持联邦、州乃至国际层面的某些安全提案。这要追溯到面向消费者的聊天机器人AI诞生之初——这项令人兴奋、改变生活的技术并没有经历漫长的蜜月期。美国人对2010年代中期对社交媒体的强烈反弹及其后政府监管缺位已经太过厌倦。 那么，本周我们真正看到的是什么？随着投票公众开始在新层面上内化
Meta个人AI助手Muse算力需求极剧攀升 云端架构带来算力与硬件资源考验
科技巨头Meta最新推出的个人AI代理系统“Muse”在发布后迅速吸引了数十万用户，但其背后独特的运行架构正对数据中心的算力资源造成空前的挤压。即使在日活跃用户量尚未突破100万的情况下，该系统对通用CPU算力、内存与存储资源的巨大消耗，已经凸显出AI代理技术规模化落地所面临的硬件瓶颈。 与传统仅回答问题的对话式AI不同，Muse被设计为一款能够自主执行多步骤复杂任务的个人代理，可以为用户处理诸如