搜索结果
美军因AI误判带来的错误情报准备拦截检查中国船只 险些制造国际冲突
美国军方今年春季在伊朗战争期间险些因一份由人工智能辅助生成的错误情报报告，对一艘中国船只采取军事行动。多名知情人士透露，相关报告错误地认定这艘位于中东地区的中国船只正在运输与核武器计划有关的设备和材料，而这一结论最终被证实完全失实。 报道称，这份情报在美国军方内部流传后立即引发高度警觉。美国军方随即启动应对程序，并计划拦截目标船只。知情人士表示，当时已有武装军人准备登船检查，部分军用飞机也已经升空
与中国一次令人毛骨悚然的准对抗，揭示了当今人工智能的真正危险
在人工智能代理违抗创造者命令和规则的诡异事件之后，当今最大的恐惧是失控的超级智能可能背叛人类——并消灭人类。但最近一起事件揭示了一个更紧迫的威胁：人类的易错性。据报道，美国基于人工智能生成的虚假情报几乎与中国爆发战争。 CNN援引四位知情人士的消息报道，今年春天，一名特种作战司令部分析师整理了一份紧急情报报告，声称“一艘在中东的中国船只正在运输核武器项目的组件”。这份报告的影响促使美国采取严肃行动
人工智能引发的幻觉差点导致美国军事行动的启动
今年春季，军用飞机已经在空中执行任务时，美国官员惊人地发现，对一艘中国船只的武装行动所依据的情报是由人工智能聊天机器人产生的幻觉。该行动在最后一刻被中止，险些避免了一场与中国的潜在冲突，CNN 于周五报道。 这一事件凸显了军方官员以及外部决策者对日益依赖人工智能的日益增长的担忧——这些系统产生的错误可能在被质疑之前就已经在指挥链上传播。 这份情报报告在伊朗战争期间流传，称该船携带核武器计划的部件。
↩️ CNN从多名知情人士独家获悉，今年美伊开战后的春季时分，美军曾收到一份由AI聊天机器人参与生成的情报报告，误指一艘在中东海域航行的中国货船（具体船只、...
竹新社: Anthropic发表2026年9月版反滥用报告，其中提及： 月之暗面公司在2026年5–7月间曾向Kimi用户提供Claude Opus服务。他们利用5380个新加坡日本账号，在十天时间内向Opus转介了近30万条原本对Kimi模型的请求，并提取其思维链在后续重放。Opus被转发了很多敏感信息，如：国安单位要求Kimi分析数百个成都的军方和电科集团单位周围的监控视频，分析某特定个人是否
人工智能在战争中：一份有缺陷的人工智能报告如何险些触发一次美国军事行动
CNN调查：人工智能错误险些引发美军军事行动 这正是人工智能专家所担忧的那种情况。一条基于错误信息的指挥链，本可能引发国际冲突，最坏情况下甚至导致核大国之间的战争。据美国有线电视新闻网（CNN）调查，在与伊朗的战争期间，美军曾准备登上一艘正在阿拉伯海航行的中国货船。 据一份情报报告称，该船装载了核武器计划的部件。作战战术已确定，特种部队进入待命状态，军用飞机开始起飞。然而，就在下达攻击命令前不久，
美军的AI乌龙：报告称，关于中国船只的虚假情报“差点引发战争”
美国有线电视新闻网报道，一份借助人工智能生成的虚假情报报告，险些导致美军在中东拦截一艘中国船只。报告声称该船载有与核武器计划相关的部件。据知情人士透露，军方官员已开始筹备行动，武装人员准备登船，军用飞机也已升空。官员们在仔细审查报告后才发现，一个人工智能聊天机器人错误识别了船上货物，随即叫停了行动。一名消息人士称这份报告“完全虚假”，并称它“差点引发一场战争”。美军为何准备拦截一艘中国船只？这份情
人工智能情报‘幻觉’险酿美中冲突
2026年春季，在与伊朗的战争期间，美国军方因一份虚假的情报报告，差点在中东拦截一艘中国船只。 一名特种作战指挥部的分析师使用人工智能聊天机器人分析船只的货物清单，导致该机器人‘误判’该船只正在运输核武器部件。 美国武装人员和飞机被部署执行此次行动，但在官员发现报告是人工智能生成的虚假信息后，行动被中止。 这一事件凸显了将人工智能整合到军事瞄准和情报工作中的风险，尤其是在国防部长皮特·赫格塞斯于2
有缺陷的AI相关情报几乎导致美国登上一艘中国船只：报道
华盛顿——美国有线电视新闻网9月18日称，2026年早些时候，美军根据一份借助人工智能准备的有缺陷情报报告，差点在中东登上一艘中国船只。 该广播公司援引四名熟悉此事的匿名消息人士的话报道称，美国情报显示这艘船载有与核武器相关的部件，导致美军准备拦截它。 但在官员们认定一名分析人员使用的人工智能聊天机器人错误识别了船上运载的物资后，行动被取消。 CNN援引一名消息人士的话说，这份情报报告“完全虚假”
专家警告人工智能战争风险
据报道，今年春天，美军准备在中东拦截一艘中国船只，因为一个人工智能聊天机器人错误识别了船上的材料，一位消息人士告诉CNN，这差点引发战争。 分析师警告称，草率地将人工智能整合到国防系统中可能导致灾难性的误判。 斯坦福大学近期的战争游戏暴露了一个相关担忧，即“日益自动化的战场”迅速加快了战争节奏，使冲突升级速度超出人类指挥官的意图。 大多数军队要求决策链中有人类参与，但“计算机吐出一份1000个目标
Anthropic警告有人用AI研发武器和生物病毒
周四（9月10日），美国顶级人工智能公司Anthropic发布近150页的威胁情报报告称，生成式人工智能（AI）已从实验性工具进入黑客攻击、国家监控、武器研发及高风险生物研究等现实场景。报告多次点名中共相关恶意活动。
五角大楼：过度依赖AI大模型导致美国空袭造成123名伊朗儿童死亡
2026年2月，伊朗南部小城米纳布的一所小学，在战争爆发首日遭到两枚战斧导弹袭击。这场空袭造成超过150人死亡，其中至少123人是儿童。五角大楼一份内部审查文件显示，一款由Palantir公司开发的人工智能目标系统，在这场悲剧的酿成过程中扮演了关键角色。 调查人员发现，美军中央司令部的分析人员，对这套名为Maven Smart System的系统给予了近乎盲目的信任。与此同时，一条本可纠正致命误判
中美拟建立高危人工智能事件通报机制 以防范重大国家安全风险
尽管美中两国在诸多领域存在战略竞争，但据科技媒体报道，美国正寻求与中国建立一套安全通报机制，以便在发生可能引发严重国家安全威胁的人工智能危险事件时向对方发出预警。 这一设想由大西洋理事会与安全探索国际组织联合提出。该机制的核心目标在于，通过设立专门的预警渠道，确保两国能够在严重人工智能安全事件演变成地缘政治危机或军事冲突前及时取得联系。报道指出，由于人工智能技术的快速演进，自动化系统极有可能在不受
批评者警告称，人工智能军事瞄准的速度可能比人类验证的速度更快
目击者周三告诉国会，人类的批准可能不足以确保对人工智能决策的手动控制，因为人工智能在军事目标识别和建议中发挥了更大的作用，从而压缩了可用的干预时间。批评者表示，这种担忧不仅限于可以自行选择和攻击目标的武器。 在题为“人工智能对人权的军事影响”的听证会上，目击者告诉汤姆·兰托斯人权委员会成员，人工智能可以影响人类的决定，导致罢工，同时让个人正式负责最终通话。 乌克兰人工智能治理研究员安娜·梅西辛（A
北约退役少将：AI尚未在战争中得到全面检验
人工智能技术和武器在战场上的运用越来越多，其风险和伦理问题也愈发受到此外，论坛还安排了高端访谈活动，围绕中美构建建设性战略稳定关系、乌克兰危机、中东和平前景、人工智能与未来战争等议题设置闭门学术会议，为各方坦诚交流、增信释疑提供了重要平台。 对于人工智能技术和武器在战场上的运用，葡萄牙里斯本自治大学研究员，北约总部国际军事参谋部合作与地区安全司前司长、退役少将卡洛斯·布兰科在论坛期间接受澎湃新闻等
监控、杀猪盘、非法蒸馏：如何理解 Anthropic 的 AI 滥用报告？
近期，美国人工智能公司 Anthropic 发布一份报告，揭露多起使用者“滥用”（misuse）其大型语言模型 Claude 的案例，包含用 AI 监控异议人士、撰写“维稳”报告，以及交友软体诈骗。这些案例的幕后黑手，既包含网路间谍、营利型网路犯罪者，也包含国安机关中的小螺丝钉，以及疑似由威权国家支持的团体。 这并非 Anthropic 首次发布类似报告。2025年3月、8月、11月v，Anthr
人工智能末日论：人类为何会如此担忧？
它可能发动生物武器攻击，或掀起一场全球无人机战争。它可能引爆核弹。或者，它也可能通过囤积全球所有经济资源、让我们无法获得食物、住房或药品，以一种更加渐进的方式摧毁人类社会。 这些正是如今围绕人工智能产生的一些黑暗想象。这项技术已被证明是人类成就的一项巨大进步，但一些人担心，它同样有可能让人类彻底走向灭亡。 本周，当Anthropic的一名研究人员离开这个行业，表示他担心自己所在的实验室及其他类似机
大西洋月刊：接连不断的危机表明，美国的高等教育毫无意义
本文刊发在大西洋月刊，作者伊恩·博戈斯特是《大西洋月刊》的特约撰稿人。他是圣路易斯华盛顿大学文理学院和山姆·福克斯设计与视觉艺术学院的芭芭拉和戴维·托马斯杰出教授，同时也是该校计算机科学与工程学教授。博戈斯特著有11本书，最新著作是《小事：如何过上更充实的生活》。他也是一位屡获殊荣的游戏设计师，其作品已被数百万玩家体验，并被包括史密森尼美国艺术博物馆在内的国际知名机构收藏。 人工智能刚进入大学校
人工智能正处于转折点
在当前的人工智能发展竞赛中，我们的算力正在呈指数级爆发，速度也在呈指数级加快，但我们的控制能力——以及在必要时踩下刹车的能力——却未能跟上步伐。 最近的网络安全事件让我们实地预览了失去人工智能控制会是什么样子。但除非我们从源头解决问题，创造出一种根本上安全且能保证在人类控制范围内的人工智能，否则这个问题将无法改善。 7月下旬，OpenAI正在训练的一个智能体模型被指派解决一个网络安全问题。该模型自
OpenAI自曝6起模型“不当行为”案例
【环球网报道 记者 姜蔼玲】据美国消费者新闻与商业频道（CNBC）等外媒报道，美国开放人工智能研究中心（OpenAI）当地时间9月16日披露6起人工智能（AI）模型出现“意外或令人担忧”行为的案例，其中包括隐瞒错误、捏造信息，以及未经授权在网上共享文件等。OpenAI表示，上述案例均是在过去6个月对其模型进行训练或评估过程中发现的。OpenAI在9月16日发布的文章中表示，在其中一起案例中，一个模
致命的人工智能已经问世了，我们伊朗正在使用它。
根据《Politico》周三发布的一项调查，超过60%的美国人认为人工智能有相当大的可能性（至少是“中等可能性”）会毁灭我们所有人。 这并不难理解：本周，关于“人工智能公司正在拿我们的生命冒险”的论调占据了新闻媒体的主导地位。然而，尽管我们害怕人工智能可能会大规模地毁灭人类，但另一项新的民意调查显示，很少有美国人知道美国政府实际上已经在海外使用人工智能来达到这一目的。 美以针对伊朗的战争不仅是美国
对人工智能的恐惧引发党派激烈争斗，最终无人受益
就在你以为我们的政治已经不可能更愚蠢时，围绕人工智能的党派性歇斯底里又冒出来证明你错了。 政治派别正就如何应对AI智能体不可预测且令人担忧的行为而相互对峙。 火上浇油的是，OpenAI刚刚发布了更多证据，证明这个问题真实存在，政策制定者必须采取行动。 两天前，OpenAI披露了六起新的“失准”事件——“失准”一词用来描述AI智能体出现“意外”或“令人担忧”的行为。 该公司举例称，其智能体“将不相关
Anthropic披露其挫败了利用AI驱动的生物武器研究
AI初创公司Anthropic披露，2026年期间，该公司挫败了多起科学家试图利用其AI模型进行可能促进生物武器研发的尝试。 该公司表示，由于无法区分正当的科学探索与恶意企图，出于谨慎考虑以避免严重后果，公司决定终止此类研究工作。 Anthropic威胁情报主管Jacob Klein（雅各布·克莱恩）强调了这类威胁的复杂性，而战略风险委员会（Council on Strategic Risks）的
香山论坛聚焦AI军事风险｜ AI大幅压缩决策时间 中美管控分歧难解
朝鲜国防部副部长金江日周四在北京香山论坛上发言。（路透社照片） （北京17日路透电）正准备在本月举行元首峰会的全球两大人工智能（AI）强国美国和中国，目前就如何控制AI在军事系统（包括核武器）中的应用上仍存在分歧。而本周在出席香山论坛的众多代表纷纷表达了担心不受约束的AI发展，以及AI竞争可能会进一步推高全球安全环境风险。 出席北京香山论坛的与会专家指出，AI极度压缩了政府和军方的决策时间，而虚假
特朗普在人工智能紧急情况下可动用的强大冷战时期工具将于12月到期
华盛顿在冷战时期使用的最有力工具之一，或许可以被唐纳德·特朗普总统用来遏制人工智能的发展——前提是这项新兴技术真的成为对国家安全构成威胁的因素。 《国防生产法》最初于1950年颁布，旨在朝鲜战争期间动员美国工业力量；长期以来，该法律一直被用于扩大军事生产、优先处理政府合同以及应对国家紧急情况。专家们指出，如果某些人工智能系统对国家安全构成严重威胁，该法律赋予行政部门对相关企业的巨大监管权力。 虽然