搜索结果
军事智能？由人工智能主导核武器是个糟糕的主意。
智能是一回事，机器可以被赋予智能。但智慧、道德和直觉是人类独有的领域。人类绝不应该被从指挥链中移除。
马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了
美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。” 现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。“话虽如此，但我总觉得它们还是会不时进行软件更新。” 近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉
观点 | AI对中国控制的威胁
如果人工智能的知识基础是谎言和宣传，那它就算不上很智能。
中美专家呼吁建立“核安全级”AI防护机制 防范超级人工智能失控风险
来自美国和中国的国家安全、科技政策及人工智能领域专家近日共同提出一项引人关注的建议，主张借鉴冷战时期核安全管理经验，为未来可能出现的高级人工智能系统建立类似核武器领域的安全保障机制，以降低技术失控、误判以及国际竞争升级所带来的风险。 这一建议出现在一份由两国专家共同参与讨论后形成的研究成果中。报告认为，随着人工智能能力持续快速提升，各国已经开始面对一些与核时代早期相似的问题，即一种具有巨大潜在影响
专家警告人工智能战争风险
据报道，今年春天，美军准备在中东拦截一艘中国船只，因为一个人工智能聊天机器人错误识别了船上的材料，一位消息人士告诉CNN，这差点引发战争。 分析师警告称，草率地将人工智能整合到国防系统中可能导致灾难性的误判。 斯坦福大学近期的战争游戏暴露了一个相关担忧，即“日益自动化的战场”迅速加快了战争节奏，使冲突升级速度超出人类指挥官的意图。 大多数军队要求决策链中有人类参与，但“计算机吐出一份1000个目标
乔·罗根希望人工智能能够接管政府和军事决策
乔·罗根周二表示，他希望人工智能最终能够接管政府和外交政策职能，包括涉及军事冲突的决策，因为他相信人工智能可以帮助防止人类领导人未能阻止的战争。 罗根在“乔·罗根经验”的对话中与理论物理学家卡洛·罗维利交谈，承认将政府职能交给人工智能可能会让人们感到震惊，但他将其描述为将人类决策从国际冲突中剔除的一种可能方式。 罗根说：“这听起来像是一个疯狂的希望，但我的希望是，随着人工智能变得越来越无处不在，当
北约退役少将：AI尚未在战争中得到全面检验
人工智能技术和武器在战场上的运用越来越多，其风险和伦理问题也愈发受到此外，论坛还安排了高端访谈活动，围绕中美构建建设性战略稳定关系、乌克兰危机、中东和平前景、人工智能与未来战争等议题设置闭门学术会议，为各方坦诚交流、增信释疑提供了重要平台。 对于人工智能技术和武器在战场上的运用，葡萄牙里斯本自治大学研究员，北约总部国际军事参谋部合作与地区安全司前司长、退役少将卡洛斯·布兰科在论坛期间接受澎湃新闻等
评论：在地缘政治竞赛中，AI 已大到无法放慢
如果前沿 AI 真的强大到足以终结人类，那么它可能已经强大到无法放慢。 如今，这项技术已被锁定在事关国家安全的战略军备竞赛中，对其风险的警告可能只会加速争夺霸权的冲刺——并随之带来更强大的政府控制。
人工智能末日论：人类为何会如此担忧？
它可能发动生物武器攻击，或掀起一场全球无人机战争。它可能引爆核弹。或者，它也可能通过囤积全球所有经济资源、让我们无法获得食物、住房或药品，以一种更加渐进的方式摧毁人类社会。 这些正是如今围绕人工智能产生的一些黑暗想象。这项技术已被证明是人类成就的一项巨大进步，但一些人担心，它同样有可能让人类彻底走向灭亡。 本周，当Anthropic的一名研究人员离开这个行业，表示他担心自己所在的实验室及其他类似机
人工智能真的能终结人类吗？我们的技术专家正在回答您的问题
在经过长达一周关于人工智能可能毁灭我们所知的世界的严厉警告之后，我们的科技记者正在进行直播，实时回答您关于AI威胁现实性的问题Pottys99：从现实角度来讲，AI究竟会如何杀死我？主要的间接威胁是什么？核战争、社会崩溃导致的死亡，还是某种病毒？我听到了所有这些关于它可能杀死我们的报道，但仍然不确定这在实际上是如何发生的？老实说，这一切听起来太虚无缥缈了，让人无法认真对待。 无论如何，就目前而言，
Anthropic披露其挫败了利用AI驱动的生物武器研究
AI初创公司Anthropic披露，2026年期间，该公司挫败了多起科学家试图利用其AI模型进行可能促进生物武器研发的尝试。 该公司表示，由于无法区分正当的科学探索与恶意企图，出于谨慎考虑以避免严重后果，公司决定终止此类研究工作。 Anthropic威胁情报主管Jacob Klein（雅各布·克莱恩）强调了这类威胁的复杂性，而战略风险委员会（Council on Strategic Risks）的
与中国一次令人毛骨悚然的准对抗，揭示了当今人工智能的真正危险
在人工智能代理违抗创造者命令和规则的诡异事件之后，当今最大的恐惧是失控的超级智能可能背叛人类——并消灭人类。但最近一起事件揭示了一个更紧迫的威胁：人类的易错性。据报道，美国基于人工智能生成的虚假情报几乎与中国爆发战争。 CNN援引四位知情人士的消息报道，今年春天，一名特种作战司令部分析师整理了一份紧急情报报告，声称“一艘在中东的中国船只正在运输核武器项目的组件”。这份报告的影响促使美国采取严肃行动
批评者警告称，人工智能军事瞄准的速度可能比人类验证的速度更快
目击者周三告诉国会，人类的批准可能不足以确保对人工智能决策的手动控制，因为人工智能在军事目标识别和建议中发挥了更大的作用，从而压缩了可用的干预时间。批评者表示，这种担忧不仅限于可以自行选择和攻击目标的武器。 在题为“人工智能对人权的军事影响”的听证会上，目击者告诉汤姆·兰托斯人权委员会成员，人工智能可以影响人类的决定，导致罢工，同时让个人正式负责最终通话。 乌克兰人工智能治理研究员安娜·梅西辛（A
FT社评：是时候给尖端人工智能开发按下暂停键了
确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类
盖茨吁各方共同权衡AI利弊 防止其成为“坏人最强大的武器之一”
当地时间2026年9月21日晚，美国纽约，盖茨基金会主席比尔·盖茨在目标守望者大会上发言。图：财新 曾佳 【财新网】美东时间9月21日，在美国纽约举行的盖茨基金会年度目标守卫者大会上，基金会主席比尔·盖茨针对人工智能带来的挑战表示，科技行业确实已经在讨论AI的风险，但参与讨论的社会群体还不够广泛。 “对我来说，我希望自己无论有机会与哪些领导人见面，都能够讨论这些问题。我当然希望自己只谈外国援助
致命的人工智能已经问世了，我们伊朗正在使用它。
根据《Politico》周三发布的一项调查，超过60%的美国人认为人工智能有相当大的可能性（至少是“中等可能性”）会毁灭我们所有人。 这并不难理解：本周，关于“人工智能公司正在拿我们的生命冒险”的论调占据了新闻媒体的主导地位。然而，尽管我们害怕人工智能可能会大规模地毁灭人类，但另一项新的民意调查显示，很少有美国人知道美国政府实际上已经在海外使用人工智能来达到这一目的。 美以针对伊朗的战争不仅是美国
新闻分析：在人们对人工智能日益加剧的担忧中，这种可能性
新闻：在人们对人工智能日益加剧的担忧中，一种可能性一直令人担忧：在生物学领域训练的人工智能模型可能被用来制造新一轮生物武器——比如经过设计、可对军队或平民释放的细菌或真菌。nyti.ms/4h7vLni
AI的最大威胁来自生物学，而非机器人技术
人类学家雅各布·考克森最近辞职，并在社交媒体上表示，原因是“开发AI的人坚信它可能在本十年内毁灭我们所有人”。 领导这家人工智能公司‘对齐科学’团队的埃文·胡宾格认为，未来10年内这一风险超过10%。 Anthropic的首席执行官达里奥·阿莫迪呼吁放缓AI的发展速度以降低风险，这一观点得到了OpenAI首席执行官萨姆·奥尔特曼和xAI首席执行官埃隆·马斯克的赞同。 你可能会想象到那些带有浓重奥地
人工智能面临的最大威胁来自生物领域，而非机器人技术。
Anthropic PBC的研究员雅各布·考克森（Jacob Coxon）上周辞职，并在社交媒体上发文称，原因在于“开发人工智能的人真诚地相信，到本十年末，它可能会杀死我们所有人。”该公司人工智能对齐科学团队负责人埃文·胡宾格（Evan Hubinger）认为，未来10年内发生这种情况的概率超过10%。Anthropic首席执行官达里奥·阿莫代（Dario Amodei）呼吁放缓人工智能前沿技术的
香山论坛聚焦AI军事风险｜ AI大幅压缩决策时间 中美管控分歧难解
朝鲜国防部副部长金江日周四在北京香山论坛上发言。（路透社照片） （北京17日路透电）正准备在本月举行元首峰会的全球两大人工智能（AI）强国美国和中国，目前就如何控制AI在军事系统（包括核武器）中的应用上仍存在分歧。而本周在出席香山论坛的众多代表纷纷表达了担心不受约束的AI发展，以及AI竞争可能会进一步推高全球安全环境风险。 出席北京香山论坛的与会专家指出，AI极度压缩了政府和军方的决策时间，而虚假
Anthropic警告有人用AI研发武器和生物病毒
周四（9月10日），美国顶级人工智能公司Anthropic发布近150页的威胁情报报告称，生成式人工智能（AI）已从实验性工具进入黑客攻击、国家监控、武器研发及高风险生物研究等现实场景。报告多次点名中共相关恶意活动。
人工智能热潮会带来什么实质成果吗？
遏制核战争并非一日之功。人工智能风险的答案也不会突然摆在桌面上。
关于AI末日的争论越来越离谱了。AI是一种产品，不是神。
人工智能要么治愈癌症，要么毁灭人类。这正是近日业界爆发的一场充满恐慌情绪的辩论中那种两极分化的核心论点。而事实很可能远比这平淡，风险也比一些领先AI实验室的研究人员想让你相信的更可控。这是来自一群罕见的跨党派科技专家、行业领袖和政策制定者的观点，他们公开反对极端的AI末日预测。他们强调，AI主要是一种技术产品，而非有感知的生命或神明。所以，放轻松。凭借我们已有的资源和结构，世界完全能够应对AI。首
美中安全专家提议为人工智能风险建立核武器式保障机制
美国和中国的安全专家表示，一个人工智能系统若干扰核指挥网络或发动军事网络行动，可能会让华盛顿或北京只有几分钟时间来决定是否是对方政府发动的攻击。