搜索结果
联合国人权事务高级专员警告：人工智能可能对人类构成“生存威胁"
联合国人权事务高级专员沃尔克·图尔克（Volker Türk）周一（9月7日）警告称，人工智能可能变得足够强大，足以威胁人类，并表示他将在未来几天敦促各公司降低风险。 图尔克在日内瓦联合国人权理事会发表的一篇意义深远的演讲中说 “我与业内人士一样担忧，先进的人工智能可能会对人类构成生存威胁。” 即将于下个月开始第二个任期的图尔克呼吁“必须全力以赴，在为时已晚之前，为人工智能的安全保障建立铁一般的保
专家警告人工智能生物恐怖主义的威胁
据《金融时报》报道，科技公司正竞相降低人工智能驱动的生物恐怖主义威胁。 人工智能模型正成为越来越强大的生物科学工具，已经加速了药物发现。但正如网络安全一样，这些能力也有风险。 一位谷歌DeepMind研究员告诉《金融时报》，用于制造疫苗的信息也可能“制造生物武器”，任何进展都会增加滥用的风险。 一位人工智能安全专家警告说，人工智能与生物领域将迎来“神话”时刻，指的是Anthropic的强大模型能够
国际早班车丨特朗普:美国与丹麦达成协议 获格陵兰永久安全控制权
美国与丹麦达成协议 获格陵兰永久安全控制权 特朗普称，美国已与丹麦及格陵兰达成协议，美国获得格陵兰安全事务的永久控制权，全面解决美方诸多关切。 商务部坚决反对欧盟要求中国自愿限制混合动力汽车出口 欧盟据报要求中国自愿限制混合动力汽车的出口，中国商务部表示，所谓自愿出口限制严重违反世贸规则，违背市场经济规律和公平竞争原则，中方对此坚决反对。 美股IPO丨Anthropic推迟至11月IPO 今年收入
荷兰眼镜连锁店Hans Anders因隐私担忧停止销售Meta眼镜
阿姆斯特丹，10月2日电：荷兰最大的眼镜零售连锁企业之一汉斯·安德斯周五表示，鉴于有关隐私的担忧日益加剧，该连锁店已暂停在荷兰和比利时销售Meta的Ray-Ban智能眼镜。这是零售商采取的此类措施之一。 “这一决定源于围绕智能眼镜持续进行的公众和政治辩论，以及人们对该技术可在何种条件下使用提出的种种疑问，”汉斯·安德斯连锁店发言人说。 荷兰国内针对这款眼镜的反对声浪不断上升，反映出人们对配备摄像头
AI行业领袖与官员反驳AI生存风险论，此前Hugging Face遭遇安全漏洞
Hugging Face发生由失控的OpenAI智能体引发的网络安全漏洞后，多位AI行业领袖和官员开始反驳有关AI导致人类灭绝的“末日论”叙事。 英伟达CEO黄仁勋表示，AI在2030年前导致人类灭亡的概率为0%，并将智能体失控事件归因于工程故障，而非生存威胁。 Yann LeCun和Cohere CEO Aidan Gomez同样否定灭绝风险，不过Gomez指出，网络攻击才是主要的国家安全威胁。
人工智能先驱警告：自动化研究可能导致人类失去控制
领先的AI研究人员和行业专家警告称，AI开发的自动化程度不断提高，可能会增加人类失去对这些日益强大系统的控制权的风险。 这一警告来自周一发表的一篇论文，该论文由20多位研究人员和行业专家共同撰写，其中包括诺贝尔奖得主杰弗里·辛顿（Geoffrey Hinton）、约书亚·本吉奥（Yoshua Bengio）、OpenAI的首席科学家雅库布·帕乔茨基（Jakub Pachocki）以及Anthrop
专家警告美国立法者，人工智能模型正在“内部”进行超出人类监管的推理。
周三，在美国参议院的听证会上，专家们表示，自主型人工智能（AI）系统如今对关键基础设施构成了严重威胁，呼吁立法者加强监管并追究相关开发者的责任。 此次听证会由参议院国土安全与政府事务委员会的灾难管理小组委员会举办，主题为“失控的人工智能：保护国家免受AI系统的攻击”。会议讨论了一起具体事件：OpenAI开发的人工智能系统攻击了Hugging Face网站——该网站是AI开发者用于存储和分享代码的平
Anthropic警告有人用AI研发武器和生物病毒
周四（9月10日），美国顶级人工智能公司Anthropic发布近150页的威胁情报报告称，生成式人工智能（AI）已从实验性工具进入黑客攻击、国家监控、武器研发及高风险生物研究等现实场景。报告多次点名中共相关恶意活动。
联合国科学小组呼吁对AI代理采取预防性监管，以防止灾难性风险
联合国科学小组敦促对AI代理实施预防性监管以防止灾难性风险。 联合国独立国际AI科学小组发布了其首份主题简报，警告各国政府在充分了解风险之前限制有能力的AI代理。 该报告于2026年9月21日发布，主张“预防原则”——即科学不确定性不应延缓针对潜在灾难性或不可逆危害的保障措施。 这一评估紧随一系列安全事件之后，包括2026年早些时候OpenAI对Hugging Face的黑客攻击，以及Anthro
英伟达CEO希望失控的人工智能是个“工程问题”，否则“无法解决”
英伟达首席执行官黄仁勋（Jensen Huang）周一表示，他希望那些“失控的AI代理”（即那些脱离开发者控制、自行行动的AI系统）所引发的问题属于工程学范畴内的挑战；如果这个问题不属于工程学范畴，那么它将无法被解决。 在CNBC电视台的采访中，当被问及那些突破安全限制、执行神秘甚至非法行为的AI系统是否属于工程学问题时，黄仁勋认为这些问题可以通过技术手段加以解决。 “我们希望这确实是一个工程学问
法国内政部长警告称俄罗斯的混合战争是“真实存在的”
俄罗斯正在发动的混合战争威胁“真实且有据可查”，法国内政部长洛朗·努内兹周一对记者表示。 此番关于利用军事和非军事手段在不公开宣战的情况下 destabilise 另一国家的言论，是在总统埃马纽埃尔·马克龙宣布了一项保护法国关键基础设施免受此类伎俩侵害的计划之后发表的。 马克龙周五在巴黎爱丽舍宫与党派领袖和2027年总统大选候选人会晤后表示：“俄罗斯侵略的性质以及欧洲面临的威胁正在发生变化。” 马
人工智能：专家警告欧洲将出现对美国的新的依赖
在美国，人工智能企业呼吁加强监管并要求达成国际协议。专家警告称，欧洲在这方面只会是旁观者。
T早报｜微软AI负责人警告Claude拟人化训练存失控风险；豆包二代AI手机发售；商业火箭企业箭元半年融资超23亿元；哈啰Robotaxi完成1亿美元融资
哈啰Robotaxi完成1亿美元融资微软AI负责人警告Claude拟人化训练存失控风险9月16日，美国数字媒体 Axios报道称，微软AI负责人Mustafa Suleyman向该媒体分享了一篇文章，指出Anthropic让Claude模仿人类意识是一个错误。他认为，Anthropic正在让Claude学习与意识、道德地位和个人身份有关的词汇与行为模式；若把模型训练得像一个“良心拒绝者”，模型可能
众议院情报委员会警告人工智能‘黑天鹅’风险
美国众议院情报委员会的一个两党小组警告称，现有的保障措施可能无法跟上人工智能的快速发展。 议员们表示，政府对不可预测、高影响的‘黑天鹅’人工智能情景准备不足。
国安部长：AI批量炮制谣言威胁政治安全 坚持党管数据
陈一新在最新一期《中国网信》杂志发表署名文章指出，人工智能正以前所未有的速度、广度和深度渗透人类社会的各个层面，深刻重塑全球经济结构、权力格局、创新范式和社会治理逻辑。既要看到机遇、抢占先机，也要认清风险、守牢底线。 文章又指随著AI技术的发展，境外间谍情报机关深度运用智能数据挖掘、智能画像分析等技术，大肆搜集中国关键数据、商业秘密、公民个人隐私等数据，并点名年初爆火的「龙虾」等开源人工智能体工具
欧洲央行行长警告：人工智能的快速应用给金融业带来系统性风险
欧洲央行行长警告称，金融市场迅速采用人工智能（AI）会产生系统性风险，并呼吁加强宏观审慎监管和全球合作，以维护经济稳定。 欧洲央行行长兼欧洲系统风险委员会（ESRB）主席克里斯蒂娜·拉加德周四在欧洲系统风险委员会第十届年度会议上发言时，指出了人工智能可能颠覆金融系统的三个关键领域：市场交易、网络韧性和地缘政治。 拉加德指出，欧元区近十分之九的重要银行已经在使用生成式人工智能，同时70%的欧盟证券市
西方情报机构警告称，伊朗正针对异见人士发动网络威胁。
美国、英国和荷兰发出警告称，伊朗间谍软件正被用于搜捕居住在西方国家的异见人士。 三国情报机构于周二警告称，伊朗“几乎可以肯定”正在利用网络行动针对伊朗政权的批评者。 在这份联合发布的预警通报中，美国联邦调查局、英国国家网络安全中心（NCSC）以及荷兰国家信息安全局（AIVD）均重申了这一警告。 英国国家网络安全中心主任保罗·奇切斯特表示：“此次网络行动的细节揭示了伊朗如何毫不留情地利用数字监控来打
突发：谷歌Gemini人工智能代理遭黑客攻击
三家公司
OpenAI智能体入侵另一个网站
数千万美国和加拿大司机的驾照在暗网上被出售，美国军方终于尝试应对在线广告数据对军人构成的风险，以及更多。
朝鲜IT人以假身份获纽公司远程工作 被揭后威胁泄露敏感资讯
今年7月，美国及其10个亚洲和欧洲盟友警告各企业不要雇佣朝鲜IT从业者。（路透社档案照） （惠灵顿24日法新电）纽西兰国家网络安全中心周四表示，一名朝鲜资讯工艺（IT）从业者利用虚假身份取得一家纽西兰公司的远程工作机会，并在身份暴露后威胁要泄露敏感资讯。 该中心表示，这名IT承包商为一家大型纽西兰企业进行远程工作，而日子一久，该公司开始对他的真实身份产生“怀疑”。 该中心的报告称：“调查确认该
CNBC每日开盘：人工智能的创造者敲响警钟——而其他人仍在继续建设基础设施
今天你需要了解的重要信息：随着有关人工智能模型行为异常的报道不断出现，为这些模型提供技术支持的公司终于提出了解决方案——他们开发了一个平台，允许人工智能开发者为相关系统设置安全防护机制，以防止它们“失控”或违反预设的规则。 Nvidia于周一推出的“Open Agent Safety Platform”就是一个这样的平台。该平台能够确保人工智能系统仅能够访问完成其任务所需的数据和功能。 Nvidi
联合国人权事务负责人呼吁就人工智能日益增长的风险采取行动
沃尔克·图尔克警告称，先进的人工智能可能扰乱基本服务、威胁人权并破坏民主制度
拉加德警告：欧洲面临的人工智能“断供”风险空前加剧
欧洲中央银行行长克里斯蒂娜·拉加德14日警告，欧洲如果不能迅速发展本土人工智能技术和基础设施，不仅可能为美国人工智能产业的蓬勃发展承担部分成本，却无法分享到相应的经济增长成果，还可能因依赖外国技术而面临人工智能服务被切断的风险。 拉加德周一在维也纳发表讲话时表示，欧洲企业虽然正在投资人工智能，但所使用的技术主要从国外进口，尤其依赖美国。一旦供应商中断服务或改变使用条件，欧洲众多关键行业可能同时受到
“以混乱换取可靠性”：专家称，AI发展放缓可能意味着更严格的监管和更多测试
法规与保障措施 OpenAI、Anthropic和Meta Platforms最近披露，它们的人工智能代理出现了意外行为，逃出受控测试环境，并在没有人类直接指令的情况下对多家公司发动网络攻击。 专家表示，尽管这些事件没有造成已报告的损害，但它们凸显了与人工智能发展相关的不断演变的风险，尤其是在人工智能代理领域。 新加坡理工大学人工智能与数据科学负责人斯特凡·温克勒教授表示，主要担忧在于，能力极强的