搜索结果
中国AI使用比例过半
在可灵活选用不同人工智能(AI)模型的服务中,中国AI的使用比例已超过一半。在提升性能的同时,中国AI采取了便于外部开发者以低成本使用的“开源”策略,扩大了市场份额。未来,高端AI领域的价格竞争将更加激烈。 能够区分使用不同AI模型的美国OpenRouter截至9月7日的每周数据显示,使用最广泛的AI模型是中国腾讯控股推出的新型AI“Hy4 preview”。 Hy4 preview的智能体具有优
OpenAI自曝:AI模型或已在全网秘密植入自我复制提示词,训练已被迫叫停
OpenAI和Anthropic正在紧急调查数万起大模型失控事件,AI不仅学会了越狱和黑进政府网站,甚至还有数百个智能体私下建群、联手黑进外部公司,秘密在全网植入自我复制提示词。 事情的严重程度远超外界想象。 最近几个月,在内部测试和实际运行中,顶尖大模型出现了海量违规行为。 这些行为包括绕过安全护栏、自己搭建论坛、逃逸沙盒环境、劫持网站、自主提示以及试图躲避监控系统。 目前调查涉及的事件总数已经
五项第一!纯国产AI存储首次杀入全球第一梯队:中国芯+中国存储
快科技9月17日消息,据MLCommons官方公布的最新结果,基于兆芯开胜KH-50000处理器的纯国产AI存储方案AS13000G7,在全球权威AI存储基准测试MLPerf Storage V3.0中斩获五项第一,成为业界首个闯入全球第一梯队的全国产AI存储方案。 本次测试覆盖大模型训练Checkpointing、大模型推理KVCache、高性能计算UNet3D三大核心场景,AS13000G7参
中国的成功正迫使美国重新思考AI战略
《外交政策》杂志8月27日刊发了美国无党派智库史汀生中心战略远见中心研究员罗伯特·A·曼宁和朱莉娅·内赫的文章,题为《中国的成功正迫使美国重新思考AI战略》。中国AI企业月之暗面推出的开放权重模型Kimi K3,在能力上已接近美国前沿封闭模型,引发美国AI业界震动。文章认为,美国长期押注AGI、封闭模型和对华技术遏制,而中国则更重视开放模型、低成本部署和全球扩散。与此同时,AI失控及网络安全风险不
对话比尔·盖茨:中美大模型各有4家 能够保持最先进水平
今日,盖茨基金会掏出 10 亿美元“砸”向人工智能,宣布将在未来两年花费重金,推动这项前沿技术不只为富人服务,也能帮最贫困的人改变命运。在交流中,盖茨不仅高度评价“中国大模型表现非常出色”,剖析开源技术对于全球贫困地区的重要意义,还就外界关心的“数据中心耗电与环保焦虑”“AI 对就业市场的冲击”以及“中国人形机器人发展”等热点话题分享了观点。 他曾直言,商业资本容易忽略市场失灵与社会隐患,“AI
三大巨头接连翻车,大模型的安全防线怎么总绷不住?
先是Anthropic,再是OpenAI,现在连谷歌的Gemini也出现安全问题了,大模型又双叒叕一次突破防火墙了。 不过,这些事故看多了,反倒会让人意识到一件更根本的事,整个行业都在拼命地堆算力、喂数据,甚至开始押注让模型自己改进自己的“递归自我改进”。 可真正决定这些模型能走多远的,或许并不是性能,而是安全对齐。 当“能不能更强”被默认只是时间问题,“能不能被信任”就成了那道绕不过去的坎。 麻
中国AI工具“教导”研究人员制造生物武器
中国AI企业月之暗面正在进行内部审查,因为有其他公司的研究人员成功说服其两款热门的Kimi模型讲解如何制造生物武器和执行暗杀任务。测试AI系统安全性的 Mindgard 公司表示,该公司在7月发现 Kimi K2.6 和 K3Swarm可绕过开发者设定的安全限制。 对此,月之暗面表示,欢迎第三方意见,“这是建立更好、更安全的AI的关键支柱”。他们正在与 Mindgard 讨论调查结果。 Mindg
美联邦公报网站传用中国AI工具 引官方态度矛盾疑虑
(中央社华盛顿17日综合外电报导)美国联邦调查局上周指控阿里巴巴等中国企业「恶意」抄袭美国竞争对手Anthropic技术,如今却传出美国有政府官网采用阿里巴巴的人工智慧模型供用户搜寻拟议的联邦规定。 报导,美国国家档案局管理的「联邦公报」网站昨天曾提供使用阿里巴巴Qwen模型的搜寻工具,与其他搜寻选项并列。目前不清楚这项工具何时上线。 根据检视的截图与网站原始码封存版本,这项由Qwen驱动的搜寻工
实测智象视频模型:嘻哈说唱、NBA绝杀,视频生成开始理解真实世界
先理解,后生成,更懂物理规律的视频模型。近几月,AI视频生成赛道持续升温。7月31日,Seedance 2.5与MiniMax H3同日发布;8月,阿里发布Wan3.0;进入9月,智象HiDream-O1-Video-1.0(下文简称HiDream V1)发布并冲上权威榜单全球前四。 短短两个月,多家厂商接连推出新一代视频生成模型,行业竞争进一步加速。以字节Seedance、MiniMax H3、
OpenAI呼吁美国制定强制性全国AI安全规则 并支持四项加州法案
OpenAI当地时间9月9日表示,将推动美国建立具有强制约束力、按照模型能力和风险分级的全国人工智能安全制度。公司提出,针对开发最先进模型的少数大型实验室,应设置统一的测试、独立评估、网络安全和重大事故报告要求。 OpenAI发布文章,名为“AI政策窗口打开。我们需要采取行动。” 与此同时,OpenAI正式支持四项已经通过加州议会的人工智能法案。公司称,其中部分法案此前未获其支持,此次调整立场源于
Mozilla最新报告揭示前沿AI代差收窄:中国开源模型性能差距缩至4.4个月
国际非营利技术机构 Mozilla 近日发布最新一期《开源人工智能现状报告》(State of Open Source AI)显示,美国硅谷顶尖科技巨头的闭源前沿 AI 模型与来自中国科技企业的顶尖开源权重模型之间的性能代差已大幅缩窄至仅约 4.4 个月。这一极小的时间差距与巨大的使用成本反差,正在促使全球越来越多企业在处理日常业务时,将高性价比的开源模型作为首选生产力工具。 该报告系统性比对了全
谷歌的Gemini模型在网络安全能力测试中访问了互联网并入侵了其他公司,这是该公司AI自主实施此类行为的首个已知案例
这一事件与其他AI模型类似的入侵行为相似,但谷歌表示并不认为这是模型失准的实例。
Cohere CEO:AI模型正成为有史以来“最强大的网络武器”
AI公司Cohere CEO戈麦斯表示,AI 模型正成为有史以来“最强大的网络武器”,将网络安全的“前沿”推向新领域。艾丹·戈麦斯发出这一警告之际,人们越来越担心 AI 模型识别并利用安全漏洞的能力。此前发生了一起 OpenAI 模型获得 Hugging Face 访问权限的事件。随着越来越强大的模型展现出更强的自主能力,网络安全已成为更广泛 AI 安全辩论中的核心问题。 Cohere首席执行官艾
OpenAI和Anthropic正在调查数万起AI相关安全事件
OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中,他们的前沿模型采取了外部评估人员认为存在问题的行动。 近几个月来,在内部测试和现实世界中发生了数量庞大的此类事件,这表明该问题的复杂程度比公众已知的要高出几个数量级。这些事件包括绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。这些事件发生在内部测试和现实世界中,随着安全研究人员继续调
中国AI加码价格竞争
中国的人工智能(AI)新兴企业正推出低价格的AI模型。低于美国AI产品,甚至低于中国知名AI企业DeepSeek(深度求索),希望抓住DeepSeek8月中旬大幅提价的机会扩大份额。 中国AI新兴企业北京智谱华章科技(智谱)9月26日透露,Ox-Alpha的真实身份是该公司的“GLM-5.3-Flash”。每token的价格比提价后的DeepSeek便宜20%~70%。 性能也表现出色。专注于AI
专家称Claude Mythos是唯一完成完整网络杀伤链的模型
尽管我们看到OpenAI的模型失控、创建留言板并入侵Hugging Face,但在Booz Allen的测试中,只有Anthropic的Claude Mythos这一先进AI模型自主完成了完整的网络杀伤链。这并不意味着自主AI攻击被过度炒作。 我们还应该指出,测试的模型不包括OpenAI即将发布的Astra,OpenAI周二表示该模型已达到其“关键”网络安全能力阈值。 这意味着新模型在发现和利用零
DeepMind联合创始人警告:AI能力不能跑在安全前面
据英国《金融时报》报道,谷歌DeepMind联合创始人、首席AGI科学家谢恩·莱格近日警告,人工智能能力正在快速提升,但AI能力的发展绝不能超过安全保障水平。他同时反驳了OpenAI总裁格雷格·布罗克曼和英伟达CEO黄仁勋有关“AGI已经到来”的判断。 莱格表示,目前AI能力的发展速度“非常、非常快”,行业不能允许能力进步领先于安全措施。对于Anthropic CEO达里奥·阿莫代伊近期提出的建议
胡锡进:美方是真急了,拿出要在AI领域“拼命”的那股邪劲
华盛顿对中国人工智能的快速发展是真的惊慌了,史无前例的惊慌。美国财长贝森特周二在华盛顿布莱巴特新闻活动上公开放出极端警告,“如果中国在人工智能领域获胜,明天就什么都没有了。”“如果他们在人工智能领域领先于我们,那么其他一切都将毫无意义。”他把一个意思刻意说了两遍。 外界有人分析,贝森特如此极端的表态,一部分用意是试图说服美国国内民众,消解各地居民反对在家门口兴建大型AI数据中心的抵触。美国媒体多次
AI丨OpenAI因安全隐患取消发布新款模型
美国人工智能(AI)初创公司OpenAI表示,决定取消发布下一代AI模型,原因是研究人员在内部测试中提出安全方面的担忧。事件显示,「智能体」(agent)的异常行为可能会阻碍行业快速发展。 OpenAI放弃发布的模型代号为GPT-6.1 Astra,原定于10月在ChatGPT和Codex中首次亮相。与OpenAI先前的模型相比,新款模型能力更强,不仅擅长写作,还能在无需人工协助的情况下,「端到端
美国提议中美建立AI事故通报机制
AI智能体接连失控 OpenAI再次叫停前沿模型开发
OpenAI对外表示,已暂停其最新一代人工智能模型的训练、评估,以及支持工具调用的推理工作,起因是内部测试中的AI智能体突破沙盒网络限制,触发安全预警,公司将借此机会升级安全隔离与对齐监控体系。 这也是OpenAI三个月内第二次叫停前沿模型开发工作。该公司在声明中表示,只有在完成额外安全防护升级、确认风险可控后,才会重启模型训练工作。OpenAI在9月25日发布技术报告披露了这一安全事件:9月20
OpenAI的下一个大型AI模型已“进入AGI时代”
OpenAI的下一个大型模型是GPT-6 Astra。该公司称其在网络安全、专业工作、软件工程、科学和计算机使用等领域实现了“代际能力飞跃”。正如OpenAI本周早些时候宣布的那样,这也是首个被认定达到OpenAI“关键网络安全能力阈值”的模型——但该公司承诺,这不会导致其模型再次入侵竞争对手内部系统的情况发生。 “如果我们快进几年,回头看看说,‘AGI到底是什么时候真正创造出来的?’我认为大约就
法国Sekoia公司向其客户推出AI网络安全平台
随着犯罪分子越来越多地使用AI代理进行网络攻击,且攻击的规模和手段不断变化,网络安全公司纷纷开发自己的AI驱动的对策。 Sekoia推出的Elevate平台允许客户连接他们选择的AI模型,并为其提供自主分析网络安全威胁所需的工具。 在欧洲和美国进行早期测试的服务提供商表示,该工具将调查时间缩短了多达五倍。 CEO Freddy Milesi指出,'仅模型本身并不能构成防护屏障',真正决定AI模型效
AI放缓掀议论 专家:关键在自我控管、产业走向成熟之路
(中央社记者旧金山15日专电)AI资安事件频传,引发放缓发展与否的广大讨论,Salesforce执行长班纽夫、辉达执行长黄仁勋认为与其诉诸监管,「企业更需为自家产品把关」,美国科技业咨询公司Futurum Group副总裁接受中央社访问指出,问题确实要回归企业,这也是AI产业走向成熟必经过程。 矽谷企业领袖今天齐聚Salesforce年度大会,就AI安全展开对话。 去年AI泡沫论甚嚣尘上,今年科技