搜索结果
“AI教父”辛顿警告：AI执行看似无害的任务，仍有“毁灭人类”的风险
IT之家 9 月 28 日消息，日，据《财富》杂志报道，传奇计算机科学家、“AI 教父”杰弗里 · 辛顿警告说，即使 AI 接到的任务本身并无恶意，人类仍可能在 AI 一心完成任务的过程中，沦为被毁灭的附带结果。 辛顿解释称，AI 一旦认为人类妨碍自己完成被赋予的任务，就可能把人类当成需要排除的障碍。他举了一个假设例子：要求 AI 降低大气中的二氧化碳含量。 具有中等智能水平的智能体可能会认为，完
OpenAI与Anthropic着眼于IPO前的信用评级
据报道，OpenAI和Anthropic的银行家们正敦促这两家AI巨头尽快获得投资级信用评级，这两家公司都在加速推进IPO，这凸显了债务在科技基础设施建设中巨大且不断增长的作用。 据英国《金融时报》报道，这两家AI实验室的银行家们渴望进入庞大的公司债券市场，但他们的努力正值人们对大型科技公司巨额借贷潮的担忧加剧之际。 标普全球评级分析师上周写道：“每次我们深入研究该行业，都会发现资本支出增长速度快
行业巨头呼吁放缓发展，全球AI股票下跌
全球最大人工智能公司的领导者们对快速发展带来的风险发出警告后，AI相关股票在全球范围内暴跌，这是对涌入该行业的数十亿美元资金迄今最严峻的威胁，而这些资金曾推动世界市场创下历史新高。 周一，全球最大人工智能公司的领导者们警告该技术可能带来生存层面的风险后，AI相关股票在全球范围内暴跌，动摇了业界对该行业的信心...
人工智能军备竞赛能停止吗？
人工智能的进展足够快，安全事件足够令人毛骨悚然，而企业长期以来的警告也足够值得认真对待。为了避免灾难，中国和美国需要比双方所愿更紧密地合作。美国将难以在保持对华领先的同时确保该技术的安全。
G20警告：新AI模型对金融稳定构成日益严重的威胁
G20金融稳定委员会主席写道，人工智能引发的潜在干扰不会止步于国界，确保新模型安全发布的努力应成为优先事项。
人工智能末日警告？中国人为何“不买帐”
郭莉莉2026年9月28日对许多中国民众而言，人工智能末日警告显得遥远且带有鲜明的西方色彩。 Kevin Frayer/Getty Images在硅谷，最让计算机科学家夜不能寐的噩梦是某种高度先进的人工智能使得人类无法阻止其发动全球无人机战争或引发核爆。而在北京，应对之策或许简单直接：拔掉电源、切断网络，并将失控AI的责任人绳之以法。在美国主要实验室声称先进模型已突破测试防护并入侵现实世界系统之后
人工智能带来的最大威胁是什么，你应该担心吗？
Anthropic 和 OpenAI 的首席执行官发出了“严重”风险警告。 近期，人工智能行业中最具影响力的几位高管警告称，这项技术构成严重威胁，并发表了一系列声明，呼吁放缓人工智能的发展。 Anthropic 首席执行官 Dario Amodei 发表了一篇博文，提醒公众注意“严重”风险。竞争对手 OpenAI 的首席执行官 Sam Altman 在 X 上发文承认，人工智能可能“非常糟糕”。x
专访——“我们必须停下”：AI专家称放缓还不够，开发必须停止
他警告说：“如果我们不在未来几年内阻止人工智能，我认为我们更有可能失去控制，人类将会灭绝。” 他表示：“立即、无限期地暂停前沿人工智能开发的国际禁令……是唯一能……真正让我们安全的事情。” 世界上一些最著名的人工智能高管现在呼吁放缓构建日益强大系统的竞赛。但人工智能安全研究员大卫·克鲁格认为，这还远远不够。 “我们必须阻止AI。我们必须停止构建更强大的AI。我们需要立即对前沿AI开发实施无
FT社评：是时候给尖端人工智能开发按下暂停键了
确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类
🔊 Anthropic在筹备上市之际向投资者警告潜在的灾难性AI风险
Anthropic在筹备重磅IPO之际，向投资者警告AI可能带来的灾难性风险。 今天的路透社Morning Bid播客探讨了AI风险与其飙升估值之间的紧张关系。
5%的美债还杀不死AI：真正的AI Capex“斩杀线”在哪里？
9月23日，美国10年期国债收益率升至5.11%，系2007年以来首次触及这一高位。对任何重资产行业来说，这都意味着融资环境明显收紧，而AI数据中心恰好是眼下最烧钱的资本开支之一：GPU、电力、机房、网络几乎都要在收入兑现之前先投入。奇怪的是，AI Capex并没有因此明显踩下刹车。原因不复杂：钱确实贵了，但不少AI项目目前仍然“赚得比钱贵”。真正值得追问的已经不是10年美债涨到多少AI会停，而是
顶尖人工智能公司正在寻求监管。以下是国会可能不会给予的原因。
随着人工智能游说阵营开始接受强制性独立审计，批评者警告称存在利益冲突和“监管俘获”的风险。OpenAI周二表态支持一项日益流行的提案，旨在应对人工智能的危险——该提案要求顶尖AI开发商嵌入独立监督机构，以确保其产品安全。 这一想法仍面临障碍，包括一位关键议员的抱怨，称独立监督机构权力太弱，无法施加有意义的改变。 其他批评者，包括风险投资家、学者以及唐纳德·特朗普总统的前人工智能事务负责人，对一些监
Anthropic IPO：其2万亿美元估值能否在420亿美元亏损和巨额AI支出下存活？
| 《印度斯坦时报》 编辑个人资料 关注 退出登录 获取应用
OpenAI预计到2030年累计烧掉2780亿美元，算力和基础设施支出将达8560亿美元
据英国《金融时报》9月18日报道，OpenAI预计未来五年将消耗近2800亿美元现金，显示这家人工智能公司在收入高速增长的同时，仍需要持续筹集巨额资金维持算力和基础设施扩张。 《金融时报》看到的一份OpenAI近期投资者材料显示，公司预计2026年至2030年的累计自由现金流为负2780亿美元。 OpenAI预计收入将从今年的360亿美元增至2030年的3500亿美元，增长接近十倍。从现在到20
人工智能会消灭人类吗？计算机科学家和政治家们正在努力应对AI带来的风险
来自业内人士的惊人警告加大了对限制人工超级智能的压力。人工超级智能真的构成了比核武器更大的风险吗？“切尔诺贝利级灾难”发生的几率是否很大？未来十年内，AI“杀死所有人类”的几率甚至会超过10%吗？ 在过去48小时里，大西洋两岸都发出了这些警告，直指一项大多数人仍将其视为更会聊天的搜索引擎的技术所带来的潜在影响。
评论：在地缘政治竞赛中，AI 已大到无法放慢
如果前沿 AI 真的强大到足以终结人类，那么它可能已经强大到无法放慢。 如今，这项技术已被锁定在事关国家安全的战略军备竞赛中，对其风险的警告可能只会加速争夺霸权的冲刺——并随之带来更强大的政府控制。
观点 | 如果人工智能泡沫破裂会发生什么
大约一年前，OpenAI首席财务官莎拉·弗里亚（Sarah Friar）表示，公司维持其当前财务“走钢丝”般状态的一种方式，可能是获得一种“后盾”或“担保”——即政府担保——“以使融资得以进行”。几乎在同一时间，公司首席执行官萨姆·阿尔特曼（Sam Altman）表示：“考虑到我预期人工智能的经济影响将呈现的巨大规模，”政府应充当“最后贷款人”的角色。 他们对这些言论做了限定，但大意似乎是，《华尔
顶尖人工智能开发者警告该技术发展过快
一些全球领先的人工智能创造者正联合发出警告，称这项技术发展过快会带来危险，并公开呼吁放缓脚步。 他们说，在不久的将来，它实际上可能会比正在构建它的研究人员更聪明，并对人类构成生存威胁。 NBC的Christine Romans报道，而《大西洋月刊》特约撰稿人、《AI：真实的人如何利用人工智能解决重要问题》作者Josh Tyrangiel做客TODAY节目，分享他的见解。
Breakingviews - 评论：如何让世界对人工智能更安全
来自Breakingviews - Breakingviews - 如何让世界对人工智能更安全 人工智能模型可能已经失控。管理风险需要国际监管机制。要实现这一目标，美国必须认识到危险并与中国达成协议。挑战在于在灾难发生之前完成所有这些。