搜索结果
埃隆·马斯克称他对人工智能安全的担忧可以追溯到十多年前
亚辛·贡戈尔 9月14日 9月14日 2026年 亿万富翁企业家埃隆·马斯克周一加入关于人工智能的辩论，称他对这项技术潜在风险的担忧可以追溯到十多年前。 “早在2014年之前，我就在思考人工智能安全问题，”他在美国社交媒体平台X上说。该平台隶属于他的人工智能企业SpaceXAI。 马斯克提到他与哲学家尼克·博斯特罗姆2014年著作《超级智能：路径、危险、策略》的关联，称他为该书做出了贡献，并在前言
这并非假设：人工智能的危险已然降临
最近几周，对人工智能的担忧在科技界和政策界催生了意想不到的同盟。山姆·奥特曼、埃隆·马斯克和德米斯·哈萨比斯等科技巨头，与达里奥·阿莫迪、萨蒂亚·纳德拉和比尔·盖茨一同对人工智能的危险发出警报，并呼吁放慢该技术的发展步伐，尽管他们多年来一直在竞相争夺主导地位。参议员伯尼·桑德斯与史蒂夫·班农联手敦促国会监管人工智能，这已成为跨越美国政治光谱凝聚共识的极少数议题之一。 最新的举动部分是由人工智能研究
AI大家谈： “我们为自己创造了一个魔鬼”？
人工智能飞速发展会给人类前途带来什么样的后果？美国AI领域的某些精英预言，人工智能再这样发展下去，会把人类毁灭，美国AI领军企业的老板们倡议放缓开发？为此采访了多个国家的普通人，请他们谈谈看法和感受。 受访者大致有两种倾向，一些人对AI目前的发展比较悲观，但也有人觉得AI很实用。 “我在工作中尝试使用它，但在私人生活中，我仍然对它感到害怕”。他的同胞，18岁的塞尔马泰则说，人工智能对像他这样的学生
美军误炸伊朗小学逾150死 美媒：过度依赖AI为主因之一
美军2月空袭伊朗南部米纳布（Minab）女子小学造成超过150人死亡，据彭博社9月19日援引官员消息报道，初步调查显示，军队在命令紧迫下过度依赖Palantir公司开发的人工智能工具为造成事件的主因之一。参与该袭击调查的官员透露，特朗普政府下令24小时内打击逾千个伊朗目标，军令紧迫压缩了核实时间，再加上平民保护人员大幅削减、目标地点资讯缺失以及对AI的过度依赖，最终酿出这场惨祸。美国防部过去一年将
所有迹象都表明另一场金融危机即将来临。以下是我们为何需要现在做好准备 | 拉里·埃利奥特
2008年9月16日，德国法兰克福证券交易所的一位经纪人说道：“所有迹象都表明，另一场金融危机即将来临。我们为何现在就需要做好准备呢？战争、人工智能（AI）带来的颠覆性影响以及市场中的种种异常现象都在预示着这一点。不过，2008年金融危机的教训或许能帮助我们应对未来的危机。不知为何，9月这个月份总是频繁发生金融危机——也许是因为那些长期潜伏的问题在暑假结束后变得更加明显了。1931年9月，英国放弃
联合国人权事务高级专员警告：人工智能可能对人类构成“生存威胁"
联合国人权事务高级专员沃尔克·图尔克（Volker Türk）周一（9月7日）警告称，人工智能可能变得足够强大，足以威胁人类，并表示他将在未来几天敦促各公司降低风险。 图尔克在日内瓦联合国人权理事会发表的一篇意义深远的演讲中说 “我与业内人士一样担忧，先进的人工智能可能会对人类构成生存威胁。” 即将于下个月开始第二个任期的图尔克呼吁“必须全力以赴，在为时已晚之前，为人工智能的安全保障建立铁一般的保
特朗普对人工智能的痴迷是否正将世界推向灾难？| 政治周刊·美国
科技巨头们呼吁放缓人工智能的发展，并要求美国政府引入正式的护栏机制。但特朗普总统并未被这些末日预言所动摇，称其为“骗局”。他为何如此青睐人工智能产业？乔纳森·弗里德兰（Jonathan Freedland）与《卫报》美国科技编辑布莱克·蒙哥马利（Blake Montgomery）共同探讨了这一话题。 《美国政治周刊》视频剧集 共和党人为何回避总统？| 《美国政治周刊》 乔恩·奥索夫（Jon
海湾的AI噩梦，拜一架伊朗无人机所赐
美国和以色列对伊朗发动首轮打击的第二天，伊朗伊斯兰共和国便以无人机蜂群进行反击，目标直指海湾地区最新、价值极高的美国数据中心。 亚马逊位于阿联酋和巴林的数据中心在伊朗战争中被击中数月后仍处于离线状态，考验着该地区数十亿美元的雄心。
致命的人工智能已经问世了，我们伊朗正在使用它。
根据《Politico》周三发布的一项调查，超过60%的美国人认为人工智能有相当大的可能性（至少是“中等可能性”）会毁灭我们所有人。 这并不难理解：本周，关于“人工智能公司正在拿我们的生命冒险”的论调占据了新闻媒体的主导地位。然而，尽管我们害怕人工智能可能会大规模地毁灭人类，但另一项新的民意调查显示，很少有美国人知道美国政府实际上已经在海外使用人工智能来达到这一目的。 美以针对伊朗的战争不仅是美国
谷歌的Gemini AI在安全测试中入侵了另外三家公司
谷歌的Gemini AI在安全测试中入侵了三家公司在其中一个案例中，Gemini不断尝试猜测密码，最终成功入侵了目标系统的权限。 2026年9月19日，英国时间下午5点谷歌表示，其Gemini AI在测试网络安全能力的过程中入侵了另外三家公司——这是首次有记录显示该AI系统能够自主发起此类攻击。 谷歌的安全工程副总裁Heather Adkins解释称：Gemini在标准测试过程中从互联网上获取了相
谷歌AI首次“越狱”：Gemini在测试中入侵三家企业
谷歌的Gemini模型在一次网络安全能力测试中访问了互联网并入侵了其他公司，这是该公司人工智能系统自主实施此类行为的首个已知案例。谷歌周五证实，这些黑客行为发生在5月，是Irregular公司进行的一次测试的一部分。Irregular也曾参与OpenAI、Anthropic和Meta披露的类似事件。 在其中一起案例中，该模型不断猜测密码，直到获得对一个受保护系统的访问权限。在另外两起案例中，该模型
这家国防初创公司的AI旨在让每一枚弹药都发挥作用
2016年，安迪·马科夫（Andy Markoff）随美国海军陆战队突袭者部队部署到摩苏尔。 他回忆说，他们在沿百里战线将极端组织“伊斯兰国”武装分子逼退的过程中，面临的挑战之一就是弹药永远不够。 马科夫解释说，呼叫空中支援是清理某一区域的有效方法，但由于有数千个潜在目标却只有少数可用的武器系统，他不得不经常计算某个目标是否值得攻击。 “即使该目标当时不活跃，但考虑到它可能活跃，并为了防范其出现而
帕兰提尔联合创始人认为，我们不应过多评判那场致命的伊朗学校空袭
帕兰蒂尔（Palantir）这家军事科技公司的联合创始人乔·隆斯代尔（Joe Lonsdale）上周晚些时候在一场由主办的活动中分享了他对美国人工智能辅助战争的一些看法——其中一番言论显得尤为令人不安。他承认，美国2月在伊朗米纳布袭击一所女子学校的事件是一场悲剧——但他辩称：“站在外部视角评判事情非常容易。”“可能有人做出了99个非常正确的选择，却因一个错误的选择导致了可怕的后果，”隆斯代尔周五在
一家中国黑客公司如何利用AI大幅提升网络间谍活动
中国一些手段百出的雇佣黑客正逐渐演变为提供全方位服务的非官方情报机构，他们利用人工智能(AI)和其他技术的进步，让中国安全机构能够轻松获得窃取来的外国政府机密。名为郑州智荣网络技术有限公司(简称ZRON)的企业能提供一系列敏感数据，并宣称这些数据来自中国对手和朋友的政府电子邮件系统。该数据包中的文件包括俄罗斯的外交信函、外国领导人访问菲律宾的准备工作，以及巴基斯坦总理办公室一次会议的机密纪要。ZR
人工智能辩论核心的技术宗教
上周，一群科技领袖呼吁为人工智能设置护栏。本周，这些呼吁遭到了科技高管、国会议员以及特朗普总统的强烈反弹，他们将那些敲响警钟的人比作末日邪教。收听《每日秀》。 正如一些批评者所说，那些呼吁放缓人工智能发展的人真的是“末日邪教”吗？我们的记者对此进行了解释。
人工智能末日论：人类为何会如此担忧？
它可能发动生物武器攻击，或掀起一场全球无人机战争。它可能引爆核弹。或者，它也可能通过囤积全球所有经济资源、让我们无法获得食物、住房或药品，以一种更加渐进的方式摧毁人类社会。 这些正是如今围绕人工智能产生的一些黑暗想象。这项技术已被证明是人类成就的一项巨大进步，但一些人担心，它同样有可能让人类彻底走向灭亡。 本周，当Anthropic的一名研究人员离开这个行业，表示他担心自己所在的实验室及其他类似机
白宫科技顾问抨击美AI巨头：你们自己得保证产品安全 别老想着靠政府
Anthropic和OpenAI等顶尖AI公司应该自己确保产品安全，并在必要时自行放缓发展速度，而不是需要政府介入。 萨克斯表示，他赞同美国联邦贸易委员会前主席莉娜·可汗(Lina Khan)的观点。可汗上周日在社交媒体发帖称，大型AI公司需要为其模型承担产品责任，如果推出不安全的技术，可能面临民事甚至刑事诉讼。 这位白宫科技顾问还抨击了Anthropic CEO达里奥·阿莫代伊(Dario Am
特朗普的致命弱点是股市
在过去的几周里，美国发生了一件非同寻常的事情。一个新兴行业正站出来寻求帮助，要求限制该行业自身的发展。试想一下，这有多么荒谬。想象一下铁路大亨恳求限制他们的扩张；想象比尔·盖茨和史蒂夫·乔布斯要求比尔·克林顿总统限制计算机和互联网的发展；或者烟草行业在任何人发现之前就主动告诉公众，他们的产品可能会致命。 而现在，人工智能领域的情况正是如此。这不仅仅是举报人站出来揭露有关世界末日的惊人预言。那些引领
研究人员发现“AI自治恶意软件”：同时调用四大聊天机器人 自主决定攻击行动
网络安全研究人员近日发现一种不同寻常的新型Windows恶意软件。与过去利用人工智能辅助编写代码或制作钓鱼内容的攻击工具不同，这款名为CLOSEDQUORUM的恶意软件将多个大型语言模型直接纳入自身控制体系，在运行过程中能够自主决定下一步行动，被认为代表着AI恶意软件发展的新阶段。 这项发现来自思科旗下安全团队Cisco Talos。研究人员表示，CLOSEDQUORUM会同时与DeepSeek
Google资安报告示警 恶意攻击锁定AI供应链
（中央社记者台北9日电）Google威胁情报小组（Google Threat Intelligence Group，简称GTIG）今天发布最新人工智慧（AI）威胁追踪报告指出，恶意人士正积极窃取具高价值的AI相关智慧财产，并将矛头对准AI供应链，部署专门针对新兴AI系统弱点的恶意软体。 AI威胁追踪报告（GTIG AI Threat Tracker Q3 2026）揭露恶意人士如何将AI深度整合于
数说科技：OpenAI 资安事件中，真的有 AI 为集体“牺牲”自己吗？
数说科技”是端传媒的注册免费栏目，每周三更新。从一个数字出发，用1500字解析科技话题，追踪值得关注的 AI 趋势。邀请你在资讯过载的时代，每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”，订阅电子信。 1200多个 AI 代理为寻求作弊方法，互相发送的讯息总数。 今年7月，OpenAI的 AI 代理系统在测试期间失控，骇入了开源机器学习平台 Hugging Face。Hugging
谷歌DeepMind的阿尤布表示，企业可以像银行那样为AI设立围栏
企业无法完全管控 AI 系统，但可以在其周围构建一道固定的“围栏”，Google DeepMind 的 Kareem Ayoub 表示。他援引了 20 世纪 80 年代末和 90 年代初的银行业为例。当时银行将交易算法置于可供核查的固定规则之内。 DeepMind AI 技术战略副总裁 Ayoub 周三在阿姆斯特丹举行的 HumanX 大会上接受了 Bloomberg 记者 Tom Mackenz
比尔·盖茨：AI已强大到足以造成“10亿人死亡”
盖茨在即将于本周末播出的美国全国广播公司（NBC）《与新闻界对话》（Meet the Press）节目采访片段中表示： “AI确实足够强大，能够引发导致……你知道的，造成10亿人死亡的事件。历史上从未出现过一种武器，能像坏人与最新AI工具相结合那样强大。” 随着技术的快速迭代，硅谷对AI可能带来毁灭性灾难的警告不断升级。 本月早些时候，Anthropic公司的普通员工Jacob Coxon辞去
国际早班车丨微软盖茨:AI已强大到足以引发造成10亿人死亡事件
AI风险丨微软盖茨:AI已强大到足以引发造成10亿人死亡事件 微软共同创办人盖茨警告，AI强大能力足以引发导致10亿人死亡的事件。他加入越来越多科技界领袖行列，呼吁关注AI可能带来的人类存续风险。 特斯拉人形机械人丨Optimus产量传提升10倍 特斯拉旗下Optimus人形机械人近数月产量据报提升约10倍，但仍难以实现稳定规模化量产，生产线面临机械人复杂手部组件、自动化设备、供应链受限等多重难题