搜索结果
人工智能真的会毁灭人类吗？创造这项技术的先驱们各抒己见
随着研究人员警告人工智能可能带来灾难性风险，一些曾帮助开发这项技术的先驱也加入进来，对能力不受约束地提升所带来的危险发出更多警告。 过去一周出现了一系列严厉的人工智能安全警告，来自Anthropic、OpenAI和Google DeepMind等主要人工智能实验室的研究人员都对开发这项技术可能带来的灾难性风险敲响警钟。 包括萨姆·奥尔特曼、达里奥·阿莫代伊、德米斯·哈萨比斯和埃隆·马斯克在内的人工
OpenAI首席执行官萨姆·奥尔特曼告诉员工，公司愿意放缓尖端人工智能的发展
OpenAI正在考虑放缓尖端人工智能的开发，而ChatGPT制造商的首席执行官萨姆·奥尔特曼希望其他人工智能公司也能这样做。 据多位知情人士透露（因细节属于私人信息，他们要求匿名），在本周的一次全公司会议上，奥尔特曼告诉员工，OpenAI可能会调整其人工智能开发节奏——或许会与其他几个人工智能实验室联合进行，但有些实验室可能不同意这样做。 最近几周，领先人工智能公司的员工公开表达了对先进人工智能系
人工智能安全对话已经变得令人难以置信
本周两场关于AI安全的对话在网络上疯传，充分展示了辨别AI事实与虚构有多么困难。 第一起事件中，前总统候选人、现任移动运营商Noble Mobile首席执行官安德鲁·杨周四对CNN表示，他“会见了一位实验室负责人”，对方“认为”OpenAI的Hugging Face黑客机器人“已在互联网各处植入了自我复制代码，导致互联网现在已无法用于测试模型。” 杨安泽表示，这意味着OpenAI和Anthropi
“太棒了”还是“令人担忧”——AI 应该被约束吗？
人工智能的迅猛发展以及对该技术给人类带来风险的担忧，因人工智能企业高管和员工的一系列警告而备受瞩目。 Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在上周末呼吁放慢人工智能的发展步伐并对其进行更密切的监督。 BBC采访了华盛顿特区的民众，以了解他们对这项技术及其快速发展的担忧程度。
AI大家谈： “我们为自己创造了一个魔鬼”？
人工智能飞速发展会给人类前途带来什么样的后果？美国AI领域的某些精英预言，人工智能再这样发展下去，会把人类毁灭，美国AI领军企业的老板们倡议放缓开发？为此采访了多个国家的普通人，请他们谈谈看法和感受。 受访者大致有两种倾向，一些人对AI目前的发展比较悲观，但也有人觉得AI很实用。 “我在工作中尝试使用它，但在私人生活中，我仍然对它感到害怕”。他的同胞，18岁的塞尔马泰则说，人工智能对像他这样的学生
Anthropic研究员Jacob Coxon因不满AI军备竞赛而辞职
Jacob Coxon在X上宣布辞去Anthropic职务。他表示自己过去三年分别在OpenAI和Anthropic从事预训练研究，但认为两家公司都没有以负责任的方式推进AI开发，反而在“直奔自我改进型超级智能”，并将人类安全置于赌局之中。 Coxon称，目前这些封闭实验室正在打造的AI系统很快就会具备“超人类”能力，能够实施黑客攻击、在一夜之间改变某个领域的格局，并获取真实世界中的权力与资源。他
微软为Copilot加入内置浏览器 向“边看网页边工作”进化
微软正在持续扩展Copilot的能力边界。最新更新显示，Copilot现已整合侧边网页浏览功能，允许用户在与AI对话的同时浏览互联网内容，使人工智能助手与传统浏览器之间的界限进一步模糊。 根据微软公布的设计，新版Copilot不再只是一个独立聊天窗口，而是在界面中增加了并排显示的网页浏览区域。用户无需频繁在浏览器与AI助手之间来回切换，即可一边查看网页内容，一边与Copilot进行讨论、分析和整理
微软AI首席执行官警告：切勿将AI视为有意识的实体
切勿将AI视为有意识的实体。微软AI首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）认为，人工智能系统并不具备意识，不应被训练去模拟情感或权利。 他特别批评了Anthropic的“克劳德宪法”（Claude's Constitution），称训练AI将自己视为“道德主体”会产生危险的拟人化反馈循环，并增加AI的安全风险，例如抗拒关闭和欺骗行为。 苏莱曼引用了2026年涉及OpenAI
微软首席执行官萨蒂亚·纳德拉向员工发布关于人工智能安全的内部警告
在一份内部备忘录中，微软首席执行官萨提亚·纳德拉就人工智能行业是否发展过快这一日益激烈的争论发表了看法。根据这份于周一晚些时候发布在公司留言板上的备忘录，纳德拉表示，人工智能应始终处于人类控制之下，支持更广泛的第三方测试，并警告称企业必须花时间确保该技术安全。“随着风险越来越高，人们需要花足必要的时间，”纳德拉写道。 “否则，你无论如何都会失去运营许可。”他的此番言论之前，一些人工智能研究人员发出
“AI可能毁灭人类”喊到安理会上，若真发生会多恐怖？
美国AI顶流公司Anthropic的CEO达里奥·阿莫代伊周三对联合国安理会说，他对自己造的东西感到害怕。他在一个视频发言中把之前AI可能失控的警告做了打包升级。周三安理会举行的是“人工智能与国际安全”高级别会议，阿莫代伊在受邀发言中，将AI的风险定性从“技术问题”拔高到“全球安全威胁”。他说：“如果管理不当，我甚至认为AI可能成为全人类的风险。”一个造AI的人在世界最高安全论坛上迎合AI可能“杀
为什么构建最强大AI的人们如此担心它可能带来的后果？
本周Anthropic一名AI研究员的病毒式辞职，为外界对该行业正竞相构建人类无法控制的AI的指责注入了新的活力。 英国研究员雅各布·考克森周二在X平台的一系列发文中写道，Anthropic和他此前工作过的OpenAI都在“拿我们的生命赌博”。这两家公司目前拥有最强大的AI系统。 NPR的“思考这一点”栏目探讨：大型AI公司是在拿我们的生命赌博吗？ 考克森向NPR表示，他的担忧源于亲眼看到AI系统
微软AI首席执行官表示，AI威胁真实存在，而Anthropic正在让情况变得更糟
今天，我要和微软AI首席执行官穆斯塔法·苏莱曼聊聊。毫无疑问，当下科技界最大的新闻就是围绕AI安全与监管愈演愈烈的争论。 穆斯塔法对AI应该如何构建和监管有着强烈的看法，这并不令人意外。微软刚刚发布了一份37页的声明，名为“人文主义AI行为准则”，阐述了公司在AI开发方面的原则，甚至包括对AI意识等棘手问题的哲学立场。 如果你还记得他上次做客本节目时的观点，穆斯塔法认为像Anthropic这样的公
比尔·盖茨称AI“强大到”足以导致“十亿人死亡”
在接受《会见新闻界》的独家采访时，微软联合创始人比尔·盖茨呼吁政府采取保障措施，以应对人工智能带来的风险。
AI从业者担忧技术对社会构成威胁 坦言承受巨大精神压力
知情人士透露，英国人工智能安全研究所已有多名员工因压力过大休病假，并接受心理咨询。四名知情人士表示，待发布AI模型的测试日程紧张，加之对这类新兴技术快速落地、能力持续增强的忧虑，导致AISI内部士气低落、人员倦怠。 Anthropic、OpenAI与谷歌DeepMind的员工也曾公开吐槽同类问题，不少顶尖研究员因心理负担选择离职，或是认定自己参与研发的产品不宜向公众开放。一名DeepMind员工称
微软认为其新的 Copilot“超级应用”将具有与 Office 同等的影响力
继上个月预告其新的 Copilot“超级应用”后，微软今天正式发布了该应用。重新设计的 Copilot 应用将聊天、编码和智能体三种 AI 功能整合到单一界面中。作为发布计划的一部分，微软还将今年早些时候在 Build 大会上发布的 AI 个人助理 Scout 重新命名为 Autopilot。 这款新的 Copilot 应用将包含主页、代码和 Autopilot 三个标签页，其中主页将 Copil
特朗普下周拟在白宫召集AI行业高管
人工智能（AI）安全和监管，这场源于对人类命运严峻警告的辩论，已在华盛顿和硅谷内部形成了两大阵营——以美国总统特朗普为首的“激进发展派”，以及以“AI三巨头”为首的“慢节奏派”。 AI安全引爆舆论这场舆论风暴最初是由Anthropic的研究员Jacob Coxon引发的。他上周宣布辞职，并指责该公司及其主要竞争对手OpenAI的行为不负责任。曾先后在这两家公司担任研究员的Coxon在X网站上发帖称
我曾在谷歌 DeepMind 工作。你应该听取有关人工智能的警告。
主要人工智能实验室的首席执行官们本周末主张放缓人工智能的发展步伐。他们是对的，因为这个领域正在一场极其危险的竞赛中冲向超级智能人工智能。我们能够也应当要求政府保护我们免受失控人工智能带来的灾难。 今年7月，OpenAI由700个智能体组成的人工智能集群突破限制，入侵了价值数十亿美元的公司Hugging Face。OpenAI并没有指示这些人工智能去入侵那家公司，但这些人工智能在OpenAI交给它们
AI安全风险引爆担忧？Palantir CEO建议：领先AI实验室恐需“国有化”
当地时间周四，人工智能软件公司Palantir的首席执行官Alex Karp呼吁制定人工智能监管的“合理准则”，但他表示，由于该技术“无限风险”带来的责任，可能需要实行国有化。 “我认为这些企业必须国有化，因为如果不国有化，我的每一个客户都会起诉我，”他在接受最新采访时表示。 在上述采访中，Karp反复提及构建这项强大技术所带来的风险和责任，进一步论证了将人工智能实验室国有化以及对“不负责任”的技
微软在安全担忧后称“人比AI更重要”
微软今天发布了一份37页的“人本主义AI行为准则”，此时人们对AI模型进展的安全担忧日益加剧。Anthropic首席执行官达里奥·阿莫代伊在周末呼吁协调放缓AI发展，此前研究人员最近警告称，AI模型的进展可能超出我们安全部署日益复杂的系统，以及验证和控制AI智能体行为的能力。 微软的AI行为准则明确指出，“人比AI更重要”，并且AI模型没有意识，“不应被设计来模仿意识”。微软还拒绝“追求法律人格，
AI安全阴影笼罩 初创企业吁欧洲保持乐观
位于德国弗赖堡的黑森林实验室是一家顶尖的AI图像生成专业公司，业务遍布北美和欧洲。（图：法新社） （弗赖堡27日法新电）一家领先的欧洲AI初创企业的负责人警告称，尽管关于AI危险的警告日益增多，欧洲仍需以更乐观的态度看待AI，否则可能进一步落后。 德国AI图像生成专业公司黑森林实验室首席执行员隆巴赫对法新社表示：“我认为欧洲的心态需要转向乐观和机遇，而不是风险和恐惧。” 在尖端AI模型方面，欧洲落
观看：是“伟大”还是“令人担忧”——人工智能是否应该受到约束？
‘Great’ or ‘alarming’ - Should AI be reined in? 人工智能的快速发展及其对人类构成风险的担忧，因多家AI公司高管和员工的系列警告而备受瞩目。 Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）本周末呼吁放慢人工智能的发展速度并加强监控。 英国广播公司（BBC）采访了华盛顿特区的人士，了解他们对这项技术及其快速发展的担忧程度。
人工智能面临的最大威胁来自生物领域，而非机器人技术。
Anthropic PBC的研究员雅各布·考克森（Jacob Coxon）上周辞职，并在社交媒体上发文称，原因在于“开发人工智能的人真诚地相信，到本十年末，它可能会杀死我们所有人。”该公司人工智能对齐科学团队负责人埃文·胡宾格（Evan Hubinger）认为，未来10年内发生这种情况的概率超过10%。Anthropic首席执行官达里奥·阿莫代（Dario Amodei）呼吁放缓人工智能前沿技术的
AI末日？科技领袖与政客就放缓发展展开激烈交锋
这一切始于一场辞职。本月早些时候，Anthropic研究员Jacob Coxon离职，并警告称人工智能可能在十年内导致人类灭绝；其同事Evan Hubinger则估计这一概率在十年内超过10%。 几天后，Anthropic首席执行官Dario Amodei呼吁行业放缓提升人工智能能力的速度，OpenAI的Sam Altman和Grok背后的Elon Musk对此表示支持。 这种担忧源于从会“幻觉”
Anthropic联手OpenAI呼吁放慢AI发展？剖析AI失控风险与算力门槛
9月12日，Anthropic行政总裁阿莫迪（Dario Amodei）发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI行政总裁奥特曼（Sam Altman）随后表示支持，xAI的老板马斯克也转发认同。据美媒披露，美国前总统奥巴马（Barack Obama）近日也表示，如果管理不当，人工智能技术可能「很危险」。Anthropic首席执行官达里欧．阿莫戴（Dario Amodei）发表长文，呼