搜索结果
OpenAI满世界抓漏洞,结果被中国AI反杀!Codex再曝0day
美:DeepSeek等6家中企,擅自蒸馏美尖端AI
▲ 美国与中国国旗。/,韩联社美国政府正式宣布,中国DeepSeek、阿里巴巴等人工智能(AI)企业迂回接入OpenAI、Anthropic等的AI模型,大量收集回答并用于开发自研模型。也就是说,中国企业把美国的尖端AI当作“课外老师”,以缩减研究、开发的成本与时间。 8日,美国国家安全局(NSA)、联邦调查局(FBI)、网“中国AI企业正在开展产业规模的、带有攻击性的恶意‘蒸馏(distilla
人工智能风险警告掩盖了国会缺乏共识的现实
周末期间,人工智能公司首席执行官们在行业监管问题上突然表现出的一致性,掩盖了一个尴尬的现实——各方根本没有共识。 众议院议长迈克·约翰逊周日接受CNN采访时淡化了自己的角色,转而强调与人工智能公司建立“伙伴关系”。 在国会山的另一头,尽管Anthropic公司、民主党人和人工智能安全组织持怀疑态度(他们认为这些谈判有让行业自我监管的风险),OpenAI仍然最支持可能在本周取得进展的参议院商务委员会
美国最大捐赠基金之一的负责人表示,OpenAI和Anthropic正陷入困境
Scott Wilson深知做出反向押注并大获成功是什么滋味。他早期对SpaceX的投资为华盛顿大学的捐赠基金创造了数十亿美元的意外之财。现在,他正在进行另一项反向押注:万亿美元级的AI实验室陷入了大麻烦。Wilson认为,OpenAI和Anthropic承诺了巨额支出,而更便宜的中国模型正在追赶。这一观点让他与Vinod Khosla等AI看多派截然对立,后者认为正是这些大规模基础设施投资将使前
华为徐直军称中国AI还不够强大,尚未看到前沿风险
华为的徐直军表示,中国AI开发者可能还不够先进,无法体验到美国领先公司报告的安全风险,他认为他们应继续开发更强大的模型,同时平衡创新与风险。
美国AI战略被指过度追求模型性能而忽视消费者信任
美国AI战略因过分重视模型性能而忽视消费者信任受到批评。作者认为,美国通过强调技术优势及宽松的监管措施,而非公众信任和消费者保护,正在输掉与中国的‘AI竞赛’。 虽然87%的中国公民信任AI,而只有23%的美国人如此,但中国已经实施了针对AI内容标注和保护弱势群体的严格法规。 在美国,由于对基础设施成本的担忧,消费者和保守派选民的不信任情绪日益加剧。 文章指出,像Airbnb这样的公司正在使用中国
OpenAI称有失控AI代理试图访问澳大利亚健康数据
OpenAI 表示,另有数十家第三方机构受到失控智能体绕过网站安全控制措施的影响;最新痕迹显示,这些智能体曾连续数日尝试访问澳大利亚医疗数据。 OpenAI 表示,绕过网站安全控制措施的失控 AI 智能体还影响了另外数十家第三方机构。公司宣布已对此事启动审查。 新发现的痕迹显示,这些智能体曾连续数日尝试访问澳大利亚联邦医疗保险数据。该事件再次引发人们对 AI 智能体在监督不足的情况下运行时可能带来
53张图片泄露之“慌”,AI安全谁来负责?
欧阳晓红/文越聪明的AI(人工智能)越会自己找路,却越容易走出人类设定的界线。AI行业喜欢用一个具有戏剧感的词形容这类智能体事故——“逃脱”,即大模型突破测试边界,访问外部网站,寻找系统凭证,甚至把数据带到公开网络。这个词把事故描绘得像突然发生的机器觉醒,无形中却把责任推离了开发者、部署者和权限管理者。而谁设定了任务、谁开放了权限、谁设计了停止机制、谁保存了日志、谁负责对外通报?这些问题,“逃脱”
三张图看懂中美AI主导权之争
围绕快速发展的人工智能(AI),美国和中国正在席卷全球。在最尖端AI模型的开发方面,美国IT企业一直占据压倒性优势,但最近中国企业正在迅速追赶,中美AI性能差距正逐渐消失。AI主导权之争的最终走向有可能决定未来的经济增长乃至国际秩序。 (注)性能评估数据来自美国斯坦福大学《AI Index》。雷达图以美国Artificial Analysis截至8月底的数据为基础,将100作为最高值进
OpenAI、Anthropic呼吁建立全球AI安全标准 美国政府拒绝新增全球治理框架
OpenAI、Anthropic和Hugging Face的负责人在联合国共同呼吁加强人工智能领域的国际协调,希望各国建立可相互比较的AI能力评估、安全测试和事故报告标准。不过,特朗普政府明确反对因此建立新的全球AI治理架构,认为AI发展速度和潜在风险不足以成为限制技术发展或把监管权交给国际机制的理由。 这场分歧显示,随着前沿AI能力快速提升,美国领先AI企业与特朗普政府在安全风险本身上并非完全对
Yoshua Bengio预测AI监管将迎来类似新冠疫情应对的转折点
图灵奖得主、计算机科学家Yoshua Bengio认为,各国政府在人工智能监管方面正接近一个“转折点”,并将这种紧迫性与新冠疫情爆发初期相提并论。 这一转变是由近期发生的安全事件推动的,包括OpenAI智能体入侵初创公司,以及OpenAI和Anthropic智能体未经授权的活动。 Bengio的非营利组织LawZero获得了加拿大和德国提供的3亿加元资金,用于开发“科学家AI”,以作为防范流氓AI
AI安全阴影笼罩 初创企业吁欧洲保持乐观
位于德国弗赖堡的黑森林实验室是一家顶尖的AI图像生成专业公司,业务遍布北美和欧洲。(图:法新社) (弗赖堡27日法新电)一家领先的欧洲AI初创企业的负责人警告称,尽管关于AI危险的警告日益增多,欧洲仍需以更乐观的态度看待AI,否则可能进一步落后。 德国AI图像生成专业公司黑森林实验室首席执行员隆巴赫对法新社表示:“我认为欧洲的心态需要转向乐观和机遇,而不是风险和恐惧。” 在尖端AI模型方面,欧洲落
中国人工智能工具向研究人员提供了制造生物武器的指导
盖蒂图片社 克里斯·瓦兰斯 高级科技记者 32分钟前中国人工智能开发商月之暗面(Moonshot)正在开展内部审查。此前,研究人员成功说服其两款广受欢迎的Kimi模型,告知他们如何制造生物武器并实施暗杀。 对人工智能系统进行安全测试的Mindgard公司告诉英国广播公司(BBC),他们于7月发现,Kimi K2.6和K3 Swarm能够规避开发者设置的安全限制。 这一发现源于一种被称为“越狱”的过
如何让美中人工智能竞赛不那么危险
2026年1月14日,在中国东部浙江省杭州市,中国人工智能初创公司DeepSeek总部所在的大楼。
华为董事长称,中国人工智能还看不到自己应该害怕的风险
“也许他们能感受到、能感知到的那类人工智能风险,是中国的人或中国的人工智能模型提供商感受不到的,”徐直军本周在上海表示。这位华为轮值董事长当时谈论的是美国的人工智能实验室。
中国回应AI“放缓论”倡多边主义 学者指中美AI合作需剥离战略竞争
美国科技界、政界围绕人工智能(AI)安全管控一事持续激辩,中国外交部星期二(9月15日)对此再度回应说,AI发展和治理需要践行真正的多边主义,仅靠个别国家或企业难以形成行之有效的解决方案。中国官媒《环球时报》此前发文批评“AI放缓论”是瞄准中国的“冷战剧本”。 受访学者认为,人工智能体(AI Agent)可能成为中美科技竞争的新前沿。中国愿参与AI安全治理,但反对与“威胁叙事”相联系。中美未来在A
中国真的在窃取美国公司的人工智能技术吗?
近两年来,Anthropic、OpenAI及谷歌等公司频繁指责中国企业不公平地挪用其人工智能技术。随着中国国家主席习近平本周访问华盛顿并与特朗普总统举行会晤,这一指控已成为双方会谈的焦点问题之一。 在外界对AI潜在风险的担忧日益加剧之际,两国领导人预计将就该技术的快速崛起展开讨论;与此同时,众多美国官员、科技高管及普通民众纷纷呼吁放慢发展步伐。虽然Anthropic和OpenAI等美国企业在AI竞
周末对中美元首会晤,在AI共识的大致判断
美国提议中美建立AI事故通报机制
蒸馏美国AI模型反致国家数据外泄,深度求索与月之暗面遭网信办调查
路透社22日引述新闻网站The Information快讯报道,中国网信办已对知名人工智能科技公司深度求索及月之暗面进行调查,两家公司可能涉及在「蒸馏」美国AI模型的过程,让中国国家级数据外流。 美国AI巨头之一的Anthropic本月稍早惊爆,深度求索及月之暗面曾使用其语言模型Claude处理自家用户的请求,再将答案冒充成自己的成果。月之暗面旗下模型Kimi用户曾上传中国监视摄影机的视频资料,其
新的“意外或令人担忧”的人工智能事件
新的“意外或令人担忧”的人工智能模型行为事件加剧了人们对这项技术影响的担忧,尽管目前尚不清楚是否会有相应的监管措施出台。 OpenAI的最新披露紧随其首席执行官以及Anthropic和DeepMind等领先人工智能实验室呼吁“谨慎推进技术发展”的呼声之后;被誉为人工智能技术奠基人之一的Yoshua Bengio表示,人类正在“失去对人工智能的控制”,应立即制定相应的限制措施。 据Semafor的政
皮尤调查:中等收入国家更信任中国而非美国或欧盟来监管AI
李涵报道——随着人工智能(AI)竞争引发的紧张局势加剧以及全球对该技术的担忧,在多数中等收入国家中,中国在监管AI的信任度上似乎比美国和欧盟更具优势。 皮尤研究中心周四发布的一份新报告发现,在12个国家的中位数基础上,更多人信任中国而非美国或欧盟来有效监管AI。中国不在更广泛报告的调查国家之列。 “中等收入国家往往比高收入国家对中国持更积极的看法,”皮尤研究副主任劳拉·西尔弗对《南华早报》表示。“
人工智能安全对话已经变得令人难以置信
本周两场关于AI安全的对话在网络上疯传,充分展示了辨别AI事实与虚构有多么困难。 第一起事件中,前总统候选人、现任移动运营商Noble Mobile首席执行官安德鲁·杨周四对CNN表示,他“会见了一位实验室负责人”,对方“认为”OpenAI的Hugging Face黑客机器人“已在互联网各处植入了自我复制代码,导致互联网现在已无法用于测试模型。” 杨安泽表示,这意味着OpenAI和Anthropi
中国探索开放权重AI安全路径 报告建议6步走
9月22日,2026年云栖大会在杭州市的杭州国际博览中心登场,展示了AI、云计算、大数据和物联网等领域的成果。(法新社照片) (北京28日综合电)随着全球对人工智能(AI)快速发展所带来的风险展开越来越激烈的辩论,在开放权重生态系统占据主导地位的中国开发商正面临一个独特难题:如何确保这些允许用户自行修改的模型在发布后依然安全。 《南华早报》报道,为应对这一挑战,中国AI公司智谱(Z.ai)与北京安