搜索结果
观看：是“伟大”还是“令人担忧”——人工智能是否应该受到约束？
‘Great’ or ‘alarming’ - Should AI be reined in? 人工智能的快速发展及其对人类构成风险的担忧，因多家AI公司高管和员工的系列警告而备受瞩目。 Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）本周末呼吁放慢人工智能的发展速度并加强监控。 英国广播公司（BBC）采访了华盛顿特区的人士，了解他们对这项技术及其快速发展的担忧程度。
查尔斯国王警告称，如果人工智能落入坏人之手，将带来“生存危机”（即对人类社会的严重威胁）。
查尔斯国王警告人工智能高管，该技术若落入错误之手，将带来“生存性危险”。 他在苏格兰邓弗里斯宫召集了一场峰会，讨论如何利用该技术造福社会，并发表了上述言论。 出席会议的还有英国人工智能大臣卡尼什卡·纳拉扬、教皇的顾问，以及来自英伟达、OpenAI和Anthropic等人工智能巨头的代表。 这一事件发生在业内人士近期就先进或“前沿”人工智能模型快速演化的能力以及对其进行管控所需的监管措施发出的一系列
美国人工智能领袖警告联合国：若无全球应对可能面临危险
OpenAI负责人萨姆·奥特曼周三告诉联合国安理会，人工智能的发展使其“好处更加切实，但风险和代价也更加迫在眉睫”。
山姆·奥特曼揭示最让他恐惧的两种AI威胁
OpenAI 首席执行官 Sam Al特曼阐述了人工智能进步可能对人类构成巨大威胁的两大途径。 大型语言模型GPT的开发者奥特曼，以及Anthropic的达里奥·阿莫代伊、埃隆·马斯克等最有权势的人工智能公司首席执行官，都在呼吁放缓这项技术的加速发展，因为他们担心这可能会对人类造成影响。 奥特曼在X平台上发帖称：“人工智能的发展有两种可能走向糟糕的局面，我们必须避免。”一种是人类失去对人工智能的控
Zscaler CEO谈AI安全争论：'人类的聪明才智威力强大'
Zscaler CEO 谈 AI 安全：“人类的聪明才智威力强大”。 Zscaler CEO 杰伊·乔杜里（Jay Chaudhry）表示，围绕放缓 AI 发展的争论，使模型开发者与那些推动更广泛获取开源及开放权重模型的人形成了对立。 他支持基本的安全保障措施，但警告称，过度监管可能会扼杀创新。
G20警告：新AI模型对金融稳定构成日益严重的威胁
G20金融稳定委员会主席写道，人工智能引发的潜在干扰不会止步于国界，确保新模型安全发布的努力应成为优先事项。
联合国人权事务主管警告：人工智能可能对人类构成“生存”风险
联合国人权事务主管沃尔克·蒂尔克周一警告称，人工智能可能变得强大到足以威胁人类，并表示他将在未来几天敦促企业降低风险。
比尔·盖茨的重大AI警告：“强大到足以推动导致数十亿人死亡的事件”
| 世界新闻 编辑个人资料 关注 退出 获取应用
OpenAI的萨姆·奥尔特曼对行业能够监管AI安全表示“有信心”
OpenAI首席执行官萨姆·奥特曼表示，他相信人工智能公司可以在不给大众带来重大危害的情况下安全地开发这项技术。 奥特曼周二在旧金山举行的Dreamforce大会上与Salesforce公司首席执行官马克·贝尼奥夫（Marc Benioff）的对话中表示：“我对我们公司——我们行业——能够安全地做到这一点非常有信心。” 奥特曼就人工智能进步速度发表的评论之际，政策制定者和业内人士正在辩论是否需要政
顶尖人工智能开发者警告该技术发展过快
一些全球领先的人工智能创造者正联合发出警告，称这项技术发展过快会带来危险，并公开呼吁放缓脚步。 他们说，在不久的将来，它实际上可能会比正在构建它的研究人员更聪明，并对人类构成生存威胁。 NBC的Christine Romans报道，而《大西洋月刊》特约撰稿人、《AI：真实的人如何利用人工智能解决重要问题》作者Josh Tyrangiel做客TODAY节目，分享他的见解。
英国国王召集峰会聚焦AI风险 黄仁勋称不够安全的产品应推迟推出
人工智能（AI）行业的重量级人物齐聚苏格兰，英国国王在峰会上敦促他们确保不会失去对这项技术的控制。查理三世召集科技业领袖及其他具有影响力的人士举行峰会，聚焦日益加剧的AI风险。这个话题本周已成为全球关注焦点。与会高管没有公开承诺作出任何改变，但一些人对安全方面的担忧做出了直接回应。 “我们这些开发AI的人必须严格测试系统，”英伟达首席执行官黄仁勋周四在这场王室活动上简短发言称，“如果产品还不够安全
联合国人工智能专家警告不要就风险发表“末日”言论
纽约——联合国人工智能委员会的多位专家于9月21日警告，反对业内一些专业人士关于AI风险的末世论式言论。 “作为科学家，投资于科学研究、真正弄清我们已知与未知的界限至关重要，而投资于恐惧并无裨益，”Google DeepMind高管、国际人工智能科学小组成员Joelle Barral表示。该小组是一个独立机构。 她是在回应关于近期公众就AI潜在危险发表的言论的提问，特别是Jacob Coxon的言
盖茨、奥尔特曼、马斯克，为何都在担忧这件事
9月25日，微软创始人比尔·盖茨在一条NBC即将播出的采访中发出警告：人工智能（AI）是一种足够强大的工具，但如果被怀有恶意的人利用，“足以引发导致十亿人死亡的事件”。他认为，保障AI安全光靠企业自我监管不够，必须要执法部门和政界人士参与讨论。这是本月内又一位科技巨头公开表达对AI安全的担忧。此前，Anthropic首席执行官达里奥·阿莫代伊发文呼吁，各国政府和前沿企业应放慢AI能力提升速度，合作
美参议员伯尼·桑德斯拟提新法案 全面禁止研发超人类智能AI
美国资深参议员伯尼·桑德斯（Bernie Sanders）正计划提出一项极具激进色彩的监管法案，提议在全美范围内设立严格法律禁令，全面叫停超越人类综合认知水平的“超智能人工智能”（Superintelligent AI）及通用人工智能（AGI）的研发活动。该立法倡议将人工智能对劳动力就业市场的潜在颠覆性冲击以及前沿系统对人类自身主导权的失控风险，推升至国家级立法干预的核心层面。 据披露的法案核心理
英伟达黄仁勋称AI首席执行官警告末日有"别有用心"
别被那件黑色皮夹克骗了——詹森·黄（Jensen Huang）其实并不是一个悲观主义者。Nvidia的首席执行官在周日接受CBS News采访时明确表达了这一观点。他指责那些处于人工智能前沿的实验室的领导者们在警告人们“如果不加强对人工智能的监管，他们开发的产品可能会以多种方式危害人类”时并不真诚。黄说：“大家应该仔细琢磨他们的话；他们其实并不是真的希望出台更多法律，而是想摆脱现有的法律约束。”
AI高管呼吁监管简史
过去几天，许多有望从AI中赚得盆满钵满的人公开一致认为，是时候让所有人放慢脚步，以免我们失去控制——包括OpenAI首席执行官萨姆·奥尔特曼、Anthropic首席执行官达里奥·阿莫代伊、Google DeepMind联合创始人德米斯·哈萨比斯、微软首席执行官萨提亚·纳德拉，以及X首席执行官埃隆·马斯克。 当从某件事中获利的人宣称它很危险、需要受到监管时，我们总是有理由保持怀疑。但无论他们的理由是
英国央行行长告诉G20：人工智能可能导致全球经济衰退
安德鲁·贝利警告各国，先进的“前沿模型”可能破坏“高度互联”的金融体系。 英国央行行长安德鲁·贝利加入了越来越多警告最先进人工智能技术带来全球风险的人士行列。 在他以国际金融稳定委员会（FSB）主席身份发给各国财长和央行行长的两页信函中，贝利表示，“前沿”人工智能模型“正展现出日益复杂的自主性、解决问题的能力以及威胁能力”。继续阅读...
OpenAI CEO奥尔特曼联合国演讲：AI可能走向文艺复兴，也可能带来工业革命式动荡
IT之家 9 月 24 日消息，月 23 日，OpenAI CEO 萨姆 · 奥尔特曼（Sam Altman）在联合国安理会就 AI 议题发表讲话，讨论 AI 发展带来的机遇与风险，并呼吁加强国际合作，建立针对前沿 AI 系统的能力评估、风险评估、安全防护和人类监督标准。 他表示，随着 AI 能力的快速提升，相关技术的潜在收益和风险都逐渐变得更加直接且显现。他提出，AI 可能更像一场充满创造力与发
谷歌DeepMind成立DeepMind研究所，探讨通用人工智能
新DeepMind研究所的三位所长写道：“这是确保我们安全构建AGI的关键时刻，其对社会的好处远远超过任何风险。” 谷歌DeepMind推出了DeepMind研究所（NPS），这是一个人工通用智能研究和辩论的平台，根据其发布文章，其董事是Google DeepMind联合创始人兼首席AGI科学家Shane Legg和Demis Hassabis，该实验室的联合创始人兼主席。哈萨比斯也是Alphab
报告：AI失控个案创纪录 监察组织促立法强制通报及干预
（伦敦30日综合电）英国《卫报》引述监察数据报道，人工智能失控、欺骗人类及无视指令的个案近来创下新高，案例的严重程度不断恶化。 一些监察组织促请政府强制科企通报，并引入紧急权力限制AI服务。 获英国政府AI安全研究所（AISI）资助的“失控观察站”组织透过平台X的用户通报，监察AI失控的真实个案，并说7月份由企业及个人用户报告的AI失控个案按月倍增至逾300宗，今年则已录得逾1600宗个案，当中包
人工智能带来的最大威胁是什么，你应该担心吗？
Anthropic 和 OpenAI 的首席执行官发出了“严重”风险警告。 近期，人工智能行业中最具影响力的几位高管警告称，这项技术构成严重威胁，并发表了一系列声明，呼吁放缓人工智能的发展。 Anthropic 首席执行官 Dario Amodei 发表了一篇博文，提醒公众注意“严重”风险。竞争对手 OpenAI 的首席执行官 Sam Altman 在 X 上发文承认，人工智能可能“非常糟糕”。x
AI安全风险引爆担忧？Palantir CEO建议：领先AI实验室恐需“国有化”
当地时间周四，人工智能软件公司Palantir的首席执行官Alex Karp呼吁制定人工智能监管的“合理准则”，但他表示，由于该技术“无限风险”带来的责任，可能需要实行国有化。 “我认为这些企业必须国有化，因为如果不国有化，我的每一个客户都会起诉我，”他在接受最新采访时表示。 在上述采访中，Karp反复提及构建这项强大技术所带来的风险和责任，进一步论证了将人工智能实验室国有化以及对“不负责任”的技
英国人工智能大臣表示，仅靠人工智能测试还不够，《财富》杂志报道
英国人工智能大臣卡尼什卡·纳拉扬表示，各国必须“强化”针对人工智能风险的防御。他表示，仅测试模型已不再足够。他是在工党年度大会上回答《财富》杂志提问时作出上述表态的。 《财富》杂志的卡迈勒·艾哈迈德向他询问了本月辞职的Anthropic研究员雅各布·考克森发出的警告。纳拉扬表示，当实验室里的人说他们非常担忧时，你必须认真对待。 “你必须强化并建立你的防御体系。风险只增不减，因此测试虽好，但显然是不
比尔·盖茨警告称，人工智能可能导致十亿人死亡，并表示仅靠自我监管还不够。
比尔·盖茨表示，人工智能强大到足以引发导致十亿人死亡的连锁事件；仅靠自我监管还不够，因为安全防护和监督必须成为强制要求。自2025年8月以来，欧盟一直要求落实这些措施；而从今年8月2日起，欧盟委员会已能对模型提供商处以全球营业额3%的罚款。 据彭博社报道，比尔·盖茨表示，人工智能强大到足以引发导致十亿人死亡的事件。他是在NBC《Meet the Press》一段将于本周末播出的采访节选中说这番话的