搜索结果
中美AI发展，各自有怎样的优势？
在新一轮中美经贸磋商中，人工智能成为议题之一。专家表示，当前中美AI发展路径各有侧重，未来双方可以围绕技术规则和安全风险展开更深入沟通。专家认为，包括“模型蒸馏”在内的一些行业实践，需要进一步明确边界和规则。只有把相关技术定义清楚，双方才有可能减少误解，并就具体问题展开技术性谈判。在安全方面，AI被用于扫描系统漏洞、强化网络攻击等风险也值得警惕。专家认为，中美可就相关高风险行为建立规则，避免AI技
人工智能会杀死我们吗？它能黑入我的银行账户吗？你的人工智能问题解答
人工智能的发展速度可能让人难以跟上。我们回答了读者关于这项技术、其潜力及潜在风险的问题。 近1000名读者向我们提出了关于人工智能、其潜力及潜在风险的问题。
改变人工智能进程的十天
旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已
AI风险当前，勿做事后诸葛亮
沃尔夫：放慢人工智能创新速度，无论在实践还是政治上都困难重重，但这是正确的选择。 人工智能(AI)行业的一些领军人物正在呼吁放慢创新速度。Anthropic一名研究人员辞职时表示，“那些正在开发AI的人是真心相信，到本十年结束时，它有能力杀死我们所有人”。Anthropic的达里奥•阿莫代伊(Dario Amodei)本人也撰文称，“我们必须放慢提升AI模型能力的速度”。OpenAI的萨姆•奥尔特
倘若AI毁灭人类，是文明的终结，还是人性的反噬
倘若AI毁灭人类，是文明的终结，还是人性的反噬 徐贲：毁灭人类的力量，不是从外部降临，而是从人类幽暗深处生长出来的。如文明失败，人性恶失控，从文明的角度看是终结，从道德的角度看是因果。 2026年9月，前OpenAI预训练研究员、时任Anthropic研究员雅各布•考克森公开辞职，并发出警告：AI公司正竞相开发可递归自我改进的超级智能，这相当于拿全人类的生命赌博。他的震撼之处不仅在于内部人身份
观点 | 暂停人工智能发展的代价
快速推进伴随风险，但放缓脚步同样如此。
人工智能末日论：人类为何会如此担忧？
它可能发动生物武器攻击，或掀起一场全球无人机战争。它可能引爆核弹。或者，它也可能通过囤积全球所有经济资源、让我们无法获得食物、住房或药品，以一种更加渐进的方式摧毁人类社会。 这些正是如今围绕人工智能产生的一些黑暗想象。这项技术已被证明是人类成就的一项巨大进步，但一些人担心，它同样有可能让人类彻底走向灭亡。 本周，当Anthropic的一名研究人员离开这个行业，表示他担心自己所在的实验室及其他类似机
顶尖数学奖得主警告：AI竞赛对该领域构成威胁
他们表示，使用人工智能解决问题的趋势“对智力工作构成了普遍威胁”。
标普与大摩示警：AI投资真实风险被低估
信用评级机构标普全球与知名投行大摩（Morgan Stanley）分别发布报告，从信用评级和会计披露两个角度，指出科技巨头未来AI（人工智能）支出最高达到7万亿美元，但传统财务报表可能严重低估了真实风险。 标普全球评级（S&P Global Ratings）在9月3日发布了信用展望报告...
AI时代，数学为何要警惕“只会做题”
最近，数学可能要被AI“玩坏了”。难题解决得更快，为什么还值得担心？关键在于我们如何评价、组织和延续数学研究。 AI模型的能力很难用一句话概括，基准测试（benchmark）因此成为比较模型的常用工具。但成绩一旦与融资、声誉和研发投入挂钩，测试便不再只是被动记录能力，也开始引导能力向哪些方向发展。经济学家陈斌（Alex C当公开分数能够吸引投资，针对测试进行定向优化就可能有利可图，而分数对于广泛能
标普:AI应用将影响银行信用评级
调查显示，受访金融机构预计，今年AI可帮助削减最多4%的成本。(路透图片) 信用评级机构标普全球评级报告指出，未来几年，银行对人工智能(AI)的使用将愈来愈影响其信用评级，受益还是受损将取决于其AI战略的成熟度以及治理框架的稳健程度。 标普称，各银行在采用AI的速度、治理成熟度和运营准备程度方面存在差异，这意味着未来几年，AI将愈来愈成为强化或削弱金融机构信用资质的因素。 标普6月对全球179家金
马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了
美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。” 现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。“话虽如此，但我总觉得它们还是会不时进行软件更新。” 近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉
OpenAI即将推出的“Astra”模型中的技术引发安全担忧
OpenAI表示，其即将推出的AI模型Astra标志着在编码和计算机应用操作等能力上的提升。但据一位了解Astra开发情况的人士透露，一项提升模型性能的创新技术也意味着该模型及类似模型将更少暴露其“思考”过程，从而更难以监控其不良行为迹象。 OpenAI首席执行官萨姆·奥尔特曼虽然这一限制对Astra来说未必是一个重大问题，但该技术已在OpenAI内部和整个行业引发担忧，即采用并强化这一技术的AI
存在主义恐惧如何影响关于人工智能的争论
一些专家担心，激烈的言论使公司难以承担责任，并阻碍了应对环境影响和失业的尝试。当前一轮对人工智能的恐慌是基于这样一种信念：该技术已经脱离了人类的控制，在最近的几起事件中按照自己的意愿行事。对于一些幻灭的人工智能研究人员以及领先人工智能公司的一些高级员工来说，这是人类文明面临真正威胁的早期迹象。 但该领域的其他专家正在反驳，声称此类言论允许公司回避对其技术对现实世界影响的责任。批评者认为人工智能对环
人工智能对金融系统的风险
这项技术很快可能会对人类构成生存威胁，但对许多美国人来说，它已经以一种更为“平凡”的方式造成了威胁——那就是他们的银行系统。 这是《The Atlantic Daily》的一期内容。这是一份新闻通讯，旨在帮助您了解当天的重大事件、发现新的思想，并推荐最优秀的文化作品。您可以在这里注册订阅。 如今的人工智能系统已经具备了极高的“黑客能力”，它们已经开始对现代生活中一些至关重要的基础设施（如银行系统）
“模型商品化”是AI前沿竞争的下一个篇章：Bond Capital
Bond Capital的Daegwon Chae谈论了随着公司竞相生产前沿模型，AI投资如何演变。他还认为，AI技术周期的一个警告信号是采用停滞不前。26分钟前
行业警告后，投资者对AI支出放缓感到紧张
在行业领袖呼吁放慢发展步伐后，投资者对股市由AI引领的上涨表现出一些紧张情绪——不过一些人表示，监管护栏最终可能有利于AI行业。
六大跨国银行联合发出警告：AI代理购物或成主流 但信任危机仍待解决
随着人工智能代理逐渐开始代替用户完成购物、支付和下单等操作，全球金融行业对这一新兴模式表现出越来越复杂的态度。美国银行、第一资本银行等六家国际大型金融机构近日联合发布报告指出，AI代理驱动的“代理式购物”虽然拥有巨大潜力，但同时也带来了透明度、安全性、隐私保护和欺诈风险等一系列新问题。 所谓代理式购物，是指人工智能代理根据用户授权，自主浏览互联网、比较商品、选择支付方式，并直接完成购买流程。过去一
分析称，人工智能监管可能增强美国安全并减缓中国发展
美国总统唐纳德·特朗普拒绝了加强人工智能监管的呼吁，辩称放缓该技术发展将损害美国利益，并让中国获得优势。在近期的讲话中，他表示，任何放缓人工智能进步的举措都将在美国与北京的战略竞赛中威胁美国。 但一项新的分析提出了相反的观点：加强对美国人工智能行业的监管可能改善国家安全，同时也能放缓中国的进步。报告称，不受监管的人工智能带来的风险范围广泛，从网络攻击和武器开发到关键基础设施威胁，而中国的进步与美国
黄益平：AI对经济意味着什么
人工智能正在深刻改变我们的经济与社会。北大国发院始终关注人工智能这一议题，2025年，正式推出了“AI+学科创新”研究计划。我们深刻地感受到，AI正在对整个经济与社会产生普遍而深刻的影响。对于学者而言，无论是从事宏观经济学、微观经济学、环境经济学还是金融经济学研究，都能切实感受到AI不仅影响着我们的研究对象，也正在革命性地重塑我们的研究方法。这确实是一场史无前例的变革。AI对经济增长范式和社会价值
对AI安全疑虑“末日”警告 也难浇熄投资热情 放缓IPO步伐
Anthropic首席执行员阿莫戴上周末呼吁应放慢先进AI的开发脚步，但未提IPO。（路透社照片） （旧金山18日法新电）尽管近期出现了诸多关于人工智能（AI）恐会“毁灭”人类的末日警告，美国人工智能（AI）独角兽Anthropic仍有望在今年晚些时候通过首次公开募股（IPO），抢在竞争对手OpenAI之前上市，其上市规模有望成为史上最大之一，但AI公司的商业模式以及监管机构是否应介入的问题依然备
人工智能能否拥有意识？
先进人工智能模型的制造者将致力于让它们展现出意识的模拟物——甚至可能让它们真正获得意识。它们只是机器的直觉将越来越难以维持。 即使它们没有意识，它们也可能被当作有意识的存在来对待——这将给人类带来巨大的代价。
特朗普为何反对“AI减速”？“大空头”：他承受不起随之而来的经济崩溃
尽管有关“人工智能（AI）末日论”的警告此起彼伏、行业“领头羊”也接连呼吁放慢发展脚步，但美国总统特朗普却坚持反对，并认为保持当前优势最重要。 知名做空投资人、素有“大空头”之称的迈克尔·伯里（Michael Burry）是人工智能领域最著名的怀疑论者之一。他认为特朗普总统之所以这么坚持，是因为人工智能行业的健康状况对于美国政府来说，与对于推动这一行业蓬勃发展的公司来说一样重要。 特朗普政府几乎没
人工智能热潮能够抵御发展放缓
特朗普总统 i正大力反驳放缓人工智能发展的呼声，将其描绘为强大的经济增长引擎。 但短期内维持这种经济繁荣可能不需要功能越来越强大的 AI 模型。 为什么呢？未来几个月经济回报可能更多地取决于持续的基础设施投资和现有 AI 工具的广泛采用，而不是下一代模型。 人工智能现在支撑着大量的企业投资和股市收益，而对生产力增长加速的希望也严重依赖于这项技术。 特朗普正在抨击要求放缓人工智能发展的呼吁，此前人工