“太棒了”还是“令人担忧”——AI 应该被约束吗？

人工智能的迅猛发展以及对该技术给人类带来风险的担忧，因人工智能企业高管和员工的一系列警告而备受瞩目。 Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在上周末呼吁放慢人工智能的发展步伐并对其进行更密切的监督。 BBC采访了华盛顿特区的民众，以了解他们对这项技术及其快速发展的担忧程度。

专访——“我们必须停下”：AI专家称放缓还不够，开发必须停止

他警告说：“如果我们不在未来几年内阻止人工智能，我认为我们更有可能失去控制，人类将会灭绝。” 他表示：“立即、无限期地暂停前沿人工智能开发的国际禁令……是唯一能……真正让我们安全的事情。” 世界上一些最著名的人工智能高管现在呼吁放缓构建日益强大系统的竞赛。但人工智能安全研究员大卫·克鲁格认为，这还远远不够。 “我们必须阻止AI。我们必须停止构建更强大的AI。我们需要立即对前沿AI开发实施无

Anthropic联手OpenAI呼吁放慢AI发展？剖析AI失控风险与算力门槛

9月12日，Anthropic行政总裁阿莫迪（Dario Amodei）发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI行政总裁奥特曼（Sam Altman）随后表示支持，xAI的老板马斯克也转发认同。据美媒披露，美国前总统奥巴马（Barack Obama）近日也表示，如果管理不当，人工智能技术可能「很危险」。Anthropic首席执行官达里欧．阿莫戴（Dario Amodei）发表长文，呼

“零概率”：英伟达首席执行官对人工智能带来的“灭绝级”威胁的回应

英伟达首席执行官黄仁勋再次反驳了人工智能末日论，他在一次采访中表示，这项技术并不会给人类带来灭绝风险。黄仁勋称，正如一些行业专家所预测的那样，人工智能导致世界末日的可能性为“零”。“无论人们如何描述，2030年都不会是世界末日。世界末日发生的概率是零，”黄仁勋在接受哥伦比亚广播公司新闻（CBS News）的采访中表示，该采访将于周日播出。 在近期多次公开露面中，这位首席执行官重申了他的立场，即人工

AI发展太快？ 黄仁勋主张速度与安全可兼顾

（中央社记者张欣瑜旧金山15日专电）辉达执行长黄仁勋和Anthropic执行长阿莫戴今天担任Salesforce年度大会主题演讲嘉宾。对AI发展速度和监管立场不同的两人前后现身，黄仁勋表示创新速度与产品安全并非只能择一，阿莫戴主张业界建立共同标准。 美国科技界近日对是否应放缓前沿AI发展步调出现分歧。在今天登场的Salesforce年度大会上，Anthropic执行长阿莫戴（Dario Amode

英伟达CEO黄仁勋称网络安全将成AI下一个重大市场

英伟达联合创始人兼首席执行官黄仁勋表示，网络安全将成为人工智能（AI）的下一个重大市场，AI技术的发展势将颠覆这个以保护计算机系统为主要任务的行业。 “网络安全很可能会成为AI下一个主要应用场景，”黄仁勋周四在旧金山举行的高盛科技会议上对与会者表示。 黄仁勋表示，AI模型实现计算机编程自动化，正给网络安全行业带来冲击，因为代码遭利用的速度越来越快，修复也须随之加快。 “还有什么比制造问题更能创造需

英伟达首席执行官表示，人工智能的发展应该“尽快”推进。

英伟达首席执行官黄仁勋表示，美国的人工智能发展应“以我们所能达到的最快速度”推进，反驳了科技行业内部日益高涨的呼声，即应在制定更强安全措施期间放缓进展。 在被CBS新闻问及是否应放缓人工智能发展、以及这样做是否会影响与中国的竞争时，黄仁勋表示，业界应继续快速推进，不应受竞争对手影响。 “我们应该以尽可能快的速度前进，不管其他任何人，”黄仁勋在周五公布的一段采访摘录中说，该采访定于周日播出。不过，他

微软CEO纳德拉呼吁为超级智能设立人类控制原则

随着全球科技行业围绕人工智能能力边界的讨论持续升温，微软董事长兼首席执行官萨提亚·纳德拉日前公开表态称，任何关于“超级智能”的探索都必须建立在服务人类并接受人类控制的基础之上，否则这样的技术发展“不值得追求”。 纳德拉表示，当前业界有许多声音主张放缓前沿人工智能模型的发展速度，但他认为，更重要的任务是在确保安全与可控性的前提下，加快人工智能成果的普及，让其惠及更多国家、社区和企业。为实现这一目标，

英伟达CEO敦促G20避免针对“理论性”危害制定AI规则

David Sacks炮轰：真担心AI失控就自己停下来 别借“放缓”之名寻求监管保护

围绕前沿人工智能是否应该主动放慢发展速度的争论近日迅速升温。Anthropic首席执行官Dario Amodei公开呼吁整个AI行业放缓先进模型能力提升的速度，OpenAI首席执行官Sam Altman和xAI首席执行官埃隆·马斯克随后表示支持。但美国科技投资人、总统科技顾问委员会主席David Sacks却对这一倡议提出尖锐批评，认为如果OpenAI和Anthropic真的认为当前AI发展速度已

吴恩达批评AI灭绝论：堪比科幻小说，新一波造势或意在影响监管

凤凰网科技讯月18日，据彭博社报道，AI领域的先锋吴恩达表示，顶尖模型开发商研究人员发出的有关AI生存风险的警告属于“科幻小说”，可能不利于确保这项技术为社会带来最大益处。 吴恩达曾参与创办谷歌大脑和教育平台Coursera。他说，在AI热潮的早期，科技行业曾煽动人们对AI潜在灾难性危害的恐惧，显然是为了加大宣传力度并影响监管走向。 “过去两周，我感到相当沮丧，”他在周四接受彭博电视采访时说，“这

英伟达CEO黄仁勋、Anthropic CEO Amodei以及Palantir CEO卡普将于当地时间周二参加特朗普与众议院议长迈克·约翰逊举行的午餐会，讨论人工智能风险问题。

约翰逊此前表示，国会“可能”需要为AI设置监管框架，但相关立法需要时间形成广泛共识。

当Anthropic的达里奥·阿莫代伊呼吁放缓AI发展时，英伟达的黄仁勋主张加速，称AI安全是工程问题而非监管事务，WSJ专栏作家@timkhiggins写道

英伟达首席执行官主张通过工程解决方案——而非新法律或行业减速措施——来应对AI安全担忧。

英伟达CEO黄仁勋称对AI的担忧是‘干扰’

英伟达CEO黄仁勋将对AI存在性威胁的担忧称为‘干扰’，并指出这种担忧‘没有科学依据’，而OpenAI和Anthropic的负责人曾向联合国警告AI对人类的风险。 黄仁勋表示，如果实验室坚持认为他们的产品无法被控制，那么‘我们就必须关闭这些实验室’，这一言论与专家和科技领袖关于不当处理AI可能带来的灾难性后果的警告相悖。 批评者指责黄仁勋没有认识到当前形势的严重性，有人称他的言论‘令人困惑且过于简

人工智慧先驱班吉欧示警AI失控风险 吁比照核武管制

（中央社蒙特娄16日综合外电报导）人工智慧（AI）研究先驱、加拿大电脑科学家班吉欧（Yoshua Bengio）告诉，人类正在失去对这项技术的控制，世界需要类似核武管制的防护规范。 报导，近几周以来，各界对AI危险性的担忧日益加剧，多家科技公司的员工陆续离职，并警告如果不遏止AI科技发展速度，可能对人类存亡构成威胁。 班吉欧现年62岁，是加拿大蒙特娄大学（University of Montrea

英国《金融时报》报道：DeepMind联合创始人警告称，人工智能的能力绝不能超越安全控制

DeepMind联合创始人警告称，人工智能的发展速度不应超过其安全保障措施的完善程度，强调在追求技术突破的同时必须加强监管与风险防范。

Jeffrey Sachs：特朗普面对AI危机就如盲人引路

美国总统所展现的，是一种将我们所有人置于严重危险之中的根本性无能。 周日，美国总统站在爱尔兰克莱尔郡的一座高尔夫球场上，被问及他打算如何应对我们这一代人所面临的最严峻科技警讯。美国正在击败中国。「我们在人工智能（AI）领域领先中国。我们是世界上最先进的国家，坦白说，我希望维持这种局面，因为谁掌握了AI，谁就赢了。」「有许多不该炒作这件事的负面势力在炒作，而且他们炒作的都是根本不会发生的事情。」 试

比尔·盖茨呼吁美国立法监管AI开发：没有人会认为只靠行业自律就够了

IT之家 9 月 25 日消息，据美国 NBC News 北京时间今天（25 日）晚间报道，微软联合创始人、亿万富翁慈善家比尔 · 盖茨呼吁美国国会立法监管人工智能开发。 盖茨在接受 NBC 新闻《Meet the Press》节目采访时直言：“没有人认为靠行业自律就足够了。” 主持人克里斯滕 · 韦尔克问他，华盛顿是否需要通过立法介入时，盖茨回答：“当然需要。执法部门和政界人士必须参与进来，讨论

特朗普将会晤科技CEO谈AI 美众议长：重点是寻找平衡

特朗普周二将在白宫会见OpenAI首席执行员阿尔特曼（左）和Meta首席执行员扎克伯格（右），讨论AI发展与安全态势。（法新社照片） （华盛顿29日法新电）美国联邦众议院议长约翰逊表示，总统特朗普周二与科技公司CEO关于人工智能（AI）的会议将聚焦于在创新与监管之间寻求平衡。与此同时，联邦政府正试图界定其在这项新兴技术中的角色。 约翰逊周一在接受福克斯商业频道（CNBC）采访时表示：“我们不需要暂

真有末日或深层盘算 美巨头齐喊放慢AI重点一次看

（中央社旧金山14日综合外电报导）多名美国AI企业领袖近日以安全理由呼吁放慢AI研发脚步。美国总统川普与辉达执行长黄仁勋则持相反看法，川普甚至称「AI将接管世界」的说法是骗局，放缓只会让北京得利。 ● 人类毁灭倒数？矽谷巨头罕见齐吁缓AI、建护栏包括Anthropic执行长阿莫戴（Dario Amodei）、OpenAI执行长阿特曼（Sam Altman）、xAI创办人马斯克（Elon Musk）

“AI可能毁灭人类”喊到安理会上，若真发生会多恐怖？

美国AI顶流公司Anthropic的CEO达里奥·阿莫代伊周三对联合国安理会说，他对自己造的东西感到害怕。他在一个视频发言中把之前AI可能失控的警告做了打包升级。周三安理会举行的是“人工智能与国际安全”高级别会议，阿莫代伊在受邀发言中，将AI的风险定性从“技术问题”拔高到“全球安全威胁”。他说：“如果管理不当，我甚至认为AI可能成为全人类的风险。”一个造AI的人在世界最高安全论坛上迎合AI可能“杀

英伟达与Anthropic CEO在Dreamforce大会就AI安全问题产生分歧：黄仁勋称“快与慢”是“错误选择”

在Salesforce的Dreamforce大会上，Anthropic的Dario Amodei与英伟达CEO黄仁勋就人工智能安全问题各抒己见，而这场辩论在几天前才刚刚进入公众视野。 Amodei首先与Salesforce CEO马克·贝尼奥夫一同登台，出现在后者的年度主题演讲中。此前，Amodei在周末发表了一篇文章，呼吁行业放缓模型开发步伐。 “我认为这才是引领行业前进的方式，以身作则，表明每

FT社评：是时候给尖端人工智能开发按下暂停键了

确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类

英国国王召集AI峰会，黄仁勋：监管产品而非技术

当地时间周四（17日），英国国王查尔斯三世在苏格兰邓弗里斯庄园（Dumfries House）主持召开人工智能峰会。 英伟达CEO黄仁勋（Jensen Huang）、谷歌DeepMind创始人哈萨比斯（Demis Hassabis），以及OpenAI、Anthropic等全球人工智能（AI）巨头高层及英国政府代表参会，共同讨论AI发展的机遇、风险与治理原则。 在AI安全争议持续升温之际，这场会议被