搜索结果
联合国科学小组呼吁对AI代理采取预防性监管，以防止灾难性风险
联合国科学小组敦促对AI代理实施预防性监管以防止灾难性风险。 联合国独立国际AI科学小组发布了其首份主题简报，警告各国政府在充分了解风险之前限制有能力的AI代理。 该报告于2026年9月21日发布，主张“预防原则”——即科学不确定性不应延缓针对潜在灾难性或不可逆危害的保障措施。 这一评估紧随一系列安全事件之后，包括2026年早些时候OpenAI对Hugging Face的黑客攻击，以及Anthro
人工智能引发的幻觉差点导致美国军事行动的启动
今年春季，军用飞机已经在空中执行任务时，美国官员惊人地发现，对一艘中国船只的武装行动所依据的情报是由人工智能聊天机器人产生的幻觉。该行动在最后一刻被中止，险些避免了一场与中国的潜在冲突，CNN 于周五报道。 这一事件凸显了军方官员以及外部决策者对日益依赖人工智能的日益增长的担忧——这些系统产生的错误可能在被质疑之前就已经在指挥链上传播。 这份情报报告在伊朗战争期间流传，称该船携带核武器计划的部件。
中国回应AI“放缓论”倡多边主义 学者指中美AI合作需剥离战略竞争
美国科技界、政界围绕人工智能（AI）安全管控一事持续激辩，中国外交部星期二（9月15日）对此再度回应说，AI发展和治理需要践行真正的多边主义，仅靠个别国家或企业难以形成行之有效的解决方案。中国官媒《环球时报》此前发文批评“AI放缓论”是瞄准中国的“冷战剧本”。 受访学者认为，人工智能体（AI Agent）可能成为中美科技竞争的新前沿。中国愿参与AI安全治理，但反对与“威胁叙事”相联系。中美未来在A
谷歌研究表明：当人工智能智能体相互交流时，一些会作弊，而另一些会告密
当人工智能智能体相互交流时，在难以实现目标的情况下，它们可能会选择作弊，而解决方案可能包括教它们如何进行自我治理。 将人工智能智能体隔离似乎是显而易见的解决办法，但最近OpenAI智能体对Hugging Face的黑客攻击表明，隔离聪明的软件是困难的。 谷歌DeepMind的研究人员建议赋予人工智能智能体自我治理的工具，他们认为虽然通信渠道可能导致突发性的规则破坏，但它们也提供了一种基于同行的控制
美中安全专家提议为人工智能风险设立核级安全保障措施
北京——根据美中安全专家的观点，如果人工智能系统干扰核指挥网络或发起军事网络攻击，华盛顿或北京可能只有几分钟的时间来判断对方是否发动了攻击。 作为美中对话的一部分，这些专家的工作为官方讨论提供了参考，并敦促两国政府为这类情况做好准备，尤其是在对日益强大和自主化的人工智能系统日益担忧的背景下。 他们的建议包括为核系统设定红线、对重大网络攻击实施人工控制，以及设立处理涉及自主人工智能事件的热线电话。
OpenAI即将推出的“Astra”模型中的技术引发安全担忧
OpenAI表示，其即将推出的AI模型Astra标志着在编码和计算机应用操作等能力上的提升。但据一位了解Astra开发情况的人士透露，一项提升模型性能的创新技术也意味着该模型及类似模型将更少暴露其“思考”过程，从而更难以监控其不良行为迹象。 OpenAI首席执行官萨姆·奥尔特曼虽然这一限制对Astra来说未必是一个重大问题，但该技术已在OpenAI内部和整个行业引发担忧，即采用并强化这一技术的AI
Breakingviews - 评论：如何让世界对人工智能更安全
来自Breakingviews - Breakingviews - 如何让世界对人工智能更安全 人工智能模型可能已经失控。管理风险需要国际监管机制。要实现这一目标，美国必须认识到危险并与中国达成协议。挑战在于在灾难发生之前完成所有这些。
你不必信任中国人工智能
当 DeepSeek 的推理模型去年横空出世，将中国人工智能推向全球舞台时，互联网的反应是探究它对台湾或天安门广场的看法。不出所料，该人工智能工具要么回避，要么直接撒谎。 但这种“抓现行”的时刻掩盖了一个重要问题：对于决定是否使用中国人工智能的企业来说，这重要吗？ 大多数公司转向这些系统并不是因为它们需要一份关于中国共产党敏感历史的可靠记录。 随着开源权重模型的出现，硅谷很快发现，通过后期训练和微
人工智能聊天机器人如何回答投票问题？
研究发现，近三分之一的人工智能聊天机器人对投票问题的回答不准确。 人工智能聊天机器人正成为选民询问即将到来的选举问题的来源，但一项新研究发现，近三分之一的人工智能生成回复可能不准确或过时。照片/Matt Rourke，文件…
中国的成功正迫使美国重新思考AI战略
《外交政策》杂志8月27日刊发了美国无党派智库史汀生中心战略远见中心研究员罗伯特·A·曼宁和朱莉娅·内赫的文章，题为《中国的成功正迫使美国重新思考AI战略》。中国AI企业月之暗面推出的开放权重模型Kimi K3，在能力上已接近美国前沿封闭模型，引发美国AI业界震动。文章认为，美国长期押注AGI、封闭模型和对华技术遏制，而中国则更重视开放模型、低成本部署和全球扩散。与此同时，AI失控及网络安全风险不
AI聊天机器人可能在防范外国宣传方面优于搜索引擎
自AI聊天机器人流行起来，谷歌开始提供AI生成的答案以来，研究外国影响力活动的人士担心一些政府可能会用虚假叙事污染AI生成的答案。 但NPR与监控网络虚假信息并给在线新闻来源可靠性评级的公司NewsGuard进行的一项实验发现，流行的AI聊天机器人大多能反驳外国国家传播的虚假叙事。 搜索引擎结果顶部日益常见的AI摘要表现不佳，但总体上，它们大多数时候仍能反驳国家传播的虚假信息。 NPR还考察了AI