搜索结果
中美谈AI安全：共同的风险，不同的恐惧
中美谈AI安全：共同的风险，不同的恐惧 邓聿文：中美领导人讨论AI安全，当然有助于建立最基本的危机沟通和军事红线。但真正的较量，将发生在“安全”这个词由谁解释上。 美国财政部长贝森特和中国副总理何立峰在纽约举行的新一轮经贸会谈，除了关税、稀土、美国农产品和波音飞机仍是重要议题外，增加了人工智能安全这项新内容。贝森特向中方提出建立AI安全事件通报机制，双方同意启动相关对话，并把这一建议交给即将举
Google资安报告示警 恶意攻击锁定AI供应链
（中央社记者台北9日电）Google威胁情报小组（Google Threat Intelligence Group，简称GTIG）今天发布最新人工智慧（AI）威胁追踪报告指出，恶意人士正积极窃取具高价值的AI相关智慧财产，并将矛头对准AI供应链，部署专门针对新兴AI系统弱点的恶意软体。 AI威胁追踪报告（GTIG AI Threat Tracker Q3 2026）揭露恶意人士如何将AI深度整合于
Mozilla最新报告揭示前沿AI代差收窄：中国开源模型性能差距缩至4.4个月
国际非营利技术机构 Mozilla 近日发布最新一期《开源人工智能现状报告》（State of Open Source AI）显示，美国硅谷顶尖科技巨头的闭源前沿 AI 模型与来自中国科技企业的顶尖开源权重模型之间的性能代差已大幅缩窄至仅约 4.4 个月。这一极小的时间差距与巨大的使用成本反差，正在促使全球越来越多企业在处理日常业务时，将高性价比的开源模型作为首选生产力工具。 该报告系统性比对了全
贝桑指中美两个月后在深圳再就AI安全会谈
美国财政部长贝桑表示，中美两国高级官员将在大约两个月后在中国深圳再次会晤，讨论人工智能的潜在风险，以及在发生人工智能安全事件时的沟通机制。 贝桑向CNBC透露，在周日与中国副总理何立峰的会谈中，双方同意建立关于人工智能的正式对话机制；其中，包括一条用于就人工智能安全事件进行沟通的应急热线，「我们希望开始讨论相关协议，以便双方就主要的人工智能风险达成共识，无论是失控的智能体、非国家行为体，还是网络领
中国情报负责人刚刚揭示了北京对人工智能最深的担忧
中国情报机构负责人陈一新概述了人工智能对中国构成的六大风险，与此同时，西方正就人工智能末日论展开激烈辩论。
OpenAI将让第三方机构更早介入AI模型安全评估
OpenAI计划让第三方机构在人工智能（AI）模型开发周期的更早阶段评估安全风险，此举旨在继续努力应对围绕AI潜在危害的担忧。这家ChatGPT开发商周二将在博客文章中宣布，计划在新AI模型的训练、评估和推出过程中，让外部机构开展技术安全评估。 OpenAI还列出了其认为此类评估要有效开展所需优先关注的事项，包括“强有力的独立机制、科学严谨性、稳健的安全实践和明确的责任”。负责该公司大部分与外部专
中美经贸磋商新增AI议题，清华学者：AI管控须坚持对等原则
据凤凰卫视报道，中美经贸磋商于当地时间9月20日在美国纽约举行，首次明确纳入人工智能话题，美方提出了建立人工智能安全通报机制的建议。清华学者认为，这一机制如果能够落地，有望成为中美人工智能风险管控务实合作的新起点。清华大学战略与安全研究中心副研究员孙成昊表示，中美人工智能二轨对话曾就通报机制进行过讨论，他认为，这项机制在技术上是可行的，但需循序渐进，首先界定通报范围和联络机制，“这可能成为中美第一
OpenAI首席执行员下周赴安理会作简报
阿尔特曼下周将到联合国安理会进行简报。（图：路透社） （华盛顿19日法新电）OpenAI周五表示，该公司首席执行员阿尔特曼将于下周在联合国大会期间，向联合国安全理事会作简报。 此次会议由国安理会轮值主席国的法国组织召开，此前该行业的主要参与者曾表示，出于安全考虑，可能有必要放缓人工智能的发展步伐。 随着人们对这项快速发展的技术所带来的危险的担忧日益加剧，联合国秘书长古特雷斯周三呼吁采取协调一致的国
Anthropic警告有人用AI研发武器和生物病毒
周四（9月10日），美国顶级人工智能公司Anthropic发布近150页的威胁情报报告称，生成式人工智能（AI）已从实验性工具进入黑客攻击、国家监控、武器研发及高风险生物研究等现实场景。报告多次点名中共相关恶意活动。
中美AI模型开发周期缩短至1/3，平均44天
中美两国的人工智能（AI）开发正在加速。自4月以来，新模型发布的周期平均已缩短至44天（约1.5个月），仅为以往的三分之一。AI自身参与AI开发的“自我进化”正在发生，这成为引发AI威胁论的导火索。 9月OpenAI和Anthropic发布了最新模型 《日本经济新闻》调查了Anthropic和OpenAI等在在AI模型开发方面处于领先的美国5家公司以及阿里巴巴集团和月之暗面等中国4家公司。
中国寻求提高人形机器人企业上市门槛
随着监管部门试图平息机器人制造商宇树科技上市后过山车般表现所引发的狂热，中国人形机器人公司进入公开资本市场的道路可能会变窄。据知情人士透露，中国证监会最近与一些投行和机构投资者举行了非正式会谈，释放出对寻求上市的人形机器人公司提高门槛的信号。 中国证监会建议投行在为拟 IPO 公司提供谘询时坚持高标准，确保这些公司拥有健康的财务状况、良好的收入前景和有价值的技术创新。知情人士表示，虽然没有出台新的
特朗普回应AI“减速论”：谁赢得AI，谁就赢得一切
当被问及AI行业是否应该放慢发展速度或接受更多监管时，“我们在AI领域领先中国。我们是世界上技术最先进的国家，说实话，我希望保持住这一点，因为谁赢得AI，谁就赢得一切。” “我们可以设置一些安全机制。我们可以采取这样那样的措施。但我认为，有很多非常负面的力量在提这件事，他们本不该提，他们在提一些不会发生的事情。”特朗普表示。 上周六，Anthropic CEO达里奥·阿莫代伊提出了一套“三步框架”
OpenAI寻求国会指导，以确认行业整体减缓AI开发进度的合法性
OpenAI已向国会成员寻求指导，以确认如果各家AI实验室协调一致地减缓前沿AI的开发进度，是否会违反美国反垄断法，特别是《谢尔曼反垄断法》（Sherman Antitrust Act）。 该公司担心，实验室之间在安全领域的协调工作可能会被视为限制产出。 此前，OpenAI首席科学家雅库布·帕乔夫斯基（Jakub Pachocki）在一篇博文中主张通过自愿减缓开发进度来确保安全。 为此，美国国会于
北京发出人工智能警告，但拒绝美国要求放缓发展的呼吁
北京警告称，人工智能的进步威胁到中国的政治、经济和社会稳定，但同时驳斥了美国要求放缓该技术发展的呼吁。中国国家安全部部长在周末的一篇文章中写道，在他看来，人工智能带来六项主要风险，包括威胁国家政治政权、数字基础设施、公共秩序和国防的安全。 然而，官方支持的媒体《环球时报》将Anthropic首席执行官最近呼吁放缓人工智能发展的文章描述为出自“冷战剧本”。不过，一些中国分析人士主张，北京应推动超级大
中国将顶尖AI人才海外出行限制扩大至其家属
中国已经将针对顶尖人工智能私企人才的海外出行限制扩大至其家属，进一步收紧管理以防止关键技术和信息外流美国。 相关政府部门近期已开始通知一些受影响的人士，包括AI领域领先的初创企业创始人及具有战略重要性的公司负责人。对于一些被视为对国家安全至关重要的AI企业高管，如今他们的直系亲属，如配偶和子女，即使只是短期出境，也必须事先获得官方批准。此前，中国新版《国务院关于出境入境管理的规定》9月15日生效，
【市场动态】OpenAI首席科学家称AI或很快迈入自我进化阶段 期望业界自愿放缓开发
OpenAI首席科学家Jakub Pachocki警告，人工智能正在以极快速度演进，以至于越来越难以为人类所理解和控制。 【彭博9月8日电】OpenAI首席科学家Jakub Pachocki警告，人工智能正在以极快速度演进，以至于越来越难以为人类所理解和控制，并称他期望AI实验室将出于安全考虑自愿放慢开发速度。 Pachocki周日在一篇文章中写道，在相对较短的时间内，AI模型已经能够操作电脑、与
高管和政界人士对放缓AI发展有何看法
过去几天，达里奥·阿莫代伊（Dario Amodei）发表了一篇题为“We Must Pace the Frontier”的长文，详细阐述了为何应放缓AI发展，由此引发了一系列关于AI安全的表态。其他AI领导人和政界人士纷纷发声支持或反对他的观点，我们在此汇总了其中一些。 Anthropic CEO 达里奥·阿莫代伊（Dario Amodei） 阿莫代伊周六上午的文章概述了放慢AI发展的三个步骤：
分析：AI优势正遭中共蚕食 美国需战略反制
今年，美国企业预计投入约7,000亿美元，用于建设数据中心、芯片和计算能力等人工智能实体基础设施。 每一美元投入，都得推动技术进步进而产生足够收益，然后为下一轮技术突破提供资金。 然而，这一模式却面临中共的开源权重模型（open-weight models）严重威胁。
AI风险丨谷歌OpenAI和Anthropic传成立安全标准机构
谷歌、OpenAI和Anthropic传成立AI安全标准机构。(路透资料图片) 外电引述消息人士报道，谷歌(Google)、OpenAI和Anthropic正推进一项计划，筹建一个新人工智能(AI)安全标准机构，暂定名称为「前沿人工智能标准机构」(SAFA)，目标是在2026年底或2027年初启动，并在没有政府直接监督的情况下独立运作。 消息指出，该机构计划为前沿AI模型制定自愿性的安全和安全保障
AI科企巨头齐呼吁发展减速：特洛依木马或美国对华「冷战剧本」？
AI人工智能巨头Anthropic公司行政总裁阿莫迪（Dario Amodei） 9月12日发表长文《我们必须放缓前沿人工智能的发展步伐》（We Must Pace the Frontier），罕见公开呼吁全球AI前沿大模型放缓研发步伐，连很少与Anthropic达成共识的OpenAI，以及亿万富豪马斯克（Elon Musk）随后都出来响应呼吁。为什么凭借AI发展谋取暴利的大企业会忽然喊「需要减速
AI合作机制偏美方思路？中方：愿同美方保持沟通交流
被问及中美人工智能对话的新机制是否更多地体现了美方的思路，中国外交部回应，中方一贯主张应当坚持发挥联合国主渠道作用，构建公正合理的全球人工智能治理体系，但同时也愿同美方通过人工智能政府间对话等渠道保持沟通交流。 有外媒记者星期一（9月28日）向中国外交部发言人提问称，在中方近期成立人工智能国际合作组织之前，中国一直支持在人工智能领域开展多边合作，主张采取更全面的方案，包括制定伦理准则、建立相关流程
OpenAI敦促美国制定强制性安全规则，因AI系统日益自主
ChatGPT制造商提议对最先进模型提出测试、网络安全保障和事件报告要求
外媒：中国AI赢得“全球南方”的真正原因
美国《外交政策》杂志9月21日发布分析文章《中国AI赢得“全球南方”的真正原因》。文章认为，中国AI模型正在凭借开放权重、低成本、高灵活性和本地化能力，在全球南方形成独特竞争优势。与美国封闭式AI模式相比，中国开放权重模型允许当地开发者自行部署、调整和二次开发，更适应电力、算力和资金受限的市场环境。同时，中国AI对东南亚等地区语言的适配能力，也降低了本地化应用门槛。文章指出，这种“提供积木、由当地
川普淡化AI威胁 联合国秘书长疾呼防范
（中央社纽约联合国总部16日综合外电报导）联合国秘书长古特瑞斯（Antonio Guterres）今天警告，人工智慧（AI）快速发展的风险不容忽视。他指出，强化AI监管将是他在下周联合国大会与各国领袖的会谈重点。 报导，「我们承担不起无视外界提出的疑虑，尤其是来自AI开发最前线人员」，「任何政府的首要责任，就是保护自己的公民，也包括免于AI的威胁。」社会大众对AI的忧心持续升高。原服务AI公司An