搜索结果
人工智能（AI）会对我们的生存构成严重威胁吗？
一名抗议者在美国加利福尼亚州旧金山的OpenAI总部外，呼吁暂停人工智能发展。 Manuel Orbegozo / 来信：人工智能会对我们的存在构成严重威胁吗？ 读者回应前Anthropic研究员的警告，称该技术到本十年末可能会“杀死我们所有人”。我们又一次看到一批技术宅声称人工智能将发展出超级智能并杀死我们所有人（更多Anthropic研究员警告AI的危险，但马斯克否认是“心理战”，9月10日）
AI不必杀死所有人类才能带来灾难。模型制造者……
AI不必杀死所有人类才能带来灾难。模型制造者的警告应被认真对待。然而，美国要在保持对华领先的同时确保AI安全，将十分艰难。
OpenAI首席执行官奥特曼谈人工智能：我们或许会失去控制权
OpenAI 首席执行官山姆・奥特曼，似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰，甚至难以安睡。美国东部时间凌晨 0 点 57 分左右，奥特曼在 X “人工智能的发展存在两种必须规避的灾难性走向。第一，我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方，人工智能必须始终服务于人。想要做到这一点，我们必须保证对齐技术与安全手段的发展速度，跑在模型能力迭代的前面
川普淡化AI威胁 联合国秘书长疾呼防范
（中央社纽约联合国总部16日综合外电报导）联合国秘书长古特瑞斯（Antonio Guterres）今天警告，人工智慧（AI）快速发展的风险不容忽视。他指出，强化AI监管将是他在下周联合国大会与各国领袖的会谈重点。 报导，「我们承担不起无视外界提出的疑虑，尤其是来自AI开发最前线人员」，「任何政府的首要责任，就是保护自己的公民，也包括免于AI的威胁。」社会大众对AI的忧心持续升高。原服务AI公司An
教皇利奥警告人工智能可能导致在巴黎的“机器天堂中丧失人性”——视频
资助独立新闻业，并节省资金 领取优惠领取优惠 卫报 - 返回首页 卫报 显示更多 隐藏展开菜单 # 教皇利奥在巴黎警告称，人工智能可能导致人类“在机器的乐园中迷失人性”——视频 教皇在访问法国期间继续谴责人工智能的崛起，并强调在一个飞速发展的技术威胁到人类的时代，保持“伦理辨别力”至关重要 教皇利奥在开始为期三天的法国访问之际，警告人工智能对人类构成威胁2026年9月25日星期五 12.49 E
更多AI研究人员警告人工智能对人类的威胁
NBC新闻的汤姆·拉马斯采访了另外两位人工智能研究人员，探讨人工智能对人类的潜在威胁。 此前，AI研究员雅各布·考克森发布了一条病毒式传播的推文，称他认为人工智能可能在未来十年内毁灭人类。 拉马斯还采访了即将在加州大学伯克利分校任教的萨亚什·卡普尔，他也警告了这一风险，但表示政策建议和监管措施有助于防止进一步的威胁。
人工智能领袖们数十年来一直知晓这一灭绝威胁。
“卡内基梅隆大学机器人研究所的创始人汉斯·莫拉维克曾预测，网络智能将在40年内超越人类智能。” 摄影：安娜贝拉·戈登/欧洲新闻图片社 朱迪思·莱文 科学家和企业家在25年前就已经知晓人工智能的危险。但在好奇心和利润的驱动下，他们依然我行我素。过去几周，我们中的许多人都在努力构想这样一个画面：云端的“大脑”跳出它们的“沙盒”，偷偷接入互联网，招募其他“智能体”组成的“蜂群”来作弊，并在讨论完这一行为
AI先驱吴恩达称灭绝恐惧是“科幻小说”
人工智能先驱吴恩达表示，顶级模型开发商研究人员关于AI存在性风险的警告是“科幻小说”，可能会阻碍确保该技术为社会带来最大利益。 吴恩达曾参与创立Google Brain和Coursera，他指出，在AI热潮早期，科技行业曾煽动对AI潜在灾难性危害的恐惧，这似乎是为了增加曝光度和影响监管。他在周四接受电视采访时说：“过去两周我感到非常失望。这波公关活动再次掀起，目的可能类似。” 本月，前Anthro
AI风险引关注 教宗提醒勿过度依赖演算法
（中央社梵蒂冈16日综合外电报导）在各界对人工智慧（AI）相关风险的疑虑日益升高之际，罗马天主教教宗良十四世（Pope Leo XIV）今天提醒，不应将本该由人类独自做出的决策交由演算法做决定。 报导，「科技发展、大众媒体与社群网路的普及，以及AI的使用日益增加，打破了各种藩篱与距离，开创了新的可能性。」但教宗在圣伯多禄广场（St Peter's 「另一方面，人际关系却变得愈来愈没有人情味且日益虚
硅谷加剧对人工智能生存风险的警告
多年来，硅谷的一些领军人物一直警告说，人工智能可能对人类构成生存威胁，即便他们同时也在推动这项技术的发展。本周，Anthropic 一名研究人员的备受瞩目的辞职将这一话题带入了主流视野。Jacob Coxon，一名普通员工，辞去了工作，并指责他的两位前雇主——Anthropic 和 OpenAI——通过“竞相开发超级智能 AI”而“拿我们的生命赌博”。Coxon 表示，开发 AI 的人相信它可能“
为什么这位前Anthropic研究员的AI末日警告能引发广泛关注
你好，欢迎来到TechScape。我是布莱克·蒙哥马利，Guardian的美国科技编辑。今天我们来聊聊科技圈过去一周里闹得沸沸扬扬的AI安全风波。 为什么这条关于AI末日的警告能引发如此大的反响，而其他那么多警告却没能做到？ 不到一周前，一位年轻的Anthropic研究员在X上宣布从这家AI巨头辞职，这条帖子震动了硅谷、华盛顿特区，甚至北京。 “构建AI的人真心相信，它可能在这个十年结束前杀死我们
为什么有人担心人工智能可能威胁人类，这种担忧有多真实？
随着忧心忡忡的研究人员和老板就这项技术的潜力发出令人不安的警告，要求对人工智能进行监管的呼声日益高涨。最近几周，关于人工智能潜在危险的警告促使人们呼吁采取协调行动，以减缓该技术的发展。 现任和前任研究人员声称，这项技术将危及人类——其中一人表示，它“杀死全人类”的可能性超过10%——这些说法已敲响警钟。 主要开发公司OpenAI和Anthropic已敦促立法者对其进行监管，不过一些人或许不无讽刺地
研究人员称可能将人类置于风险之中的AI末日情景一览
芭芭拉·奥尔图泰（Barbara Ortutay）与凯尔文·陈（Kelvin Chan）指出：多年来，人工智能研究人员一直警告称这项技术有可能毁灭人类——例如，人工智能机器人可能会设计出一种无法被阻止的致命疾病、引发核战争，或者将整个地球变成制造回形针的工厂（这只是一个假设性的情景）。 自从一些企业高管出于安全考虑建议减缓人工智能的发展速度后，关于这些末日场景的争论在人工智能行业内外愈演愈烈。 尽
黄仁勋：2030年AI导致世界毁灭的可能性为零，部分AI公司在逃避应承担的责任
黄仁勋再谈AI（人工智能）安全、中国市场和数据中心建造争议等热门话题。 月20日，在哥伦比亚广播公司播出的45分钟最新采访中，AI芯片龙头英伟达CEO黄仁勋又一次强调，关于AI可能引发人类灭绝的恐慌被夸大了，AI行业正在经历“从科研实验室向产品生产与服务”的过渡阶段，他反对盲目增加针对AI的新法规。 对于“AI末日论”，黄仁勋直言，到2030年，“那完全是假的。这种叙事太戏剧化了，只是为了博取眼球
人工智能究竟如何可能致我们于死地？
当数学家兼软件工程师雅各布·科克森（Jacob Coxon）上周辞去他在Anthropic的研究职位时，他警告说：“构建人工智能的人们真诚地相信，到本十年末，它可能会让我们所有人丧命。”如果这不是事实，这本来会是一句惊人的言论。事实上，人工智能领域的领导者们长期以来一直在说同样的话。 2018年，Anthropic首席执行官达里奥·阿莫迪（Dario Amodei，当时是OpenAI的研究科学家）
Anthropic CEO谈放缓AI研发：这个行业撒谎太久了，AI风险是真实的，但也无需“把一切都关掉”
就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险。 Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。 就在两天前，我们发布了一份报告，内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告——有人试图用我们的模型
Anthropic大瓜被扒出：“AI灭世”背后，居然是一门生意？
“AI灭世”背后，居然是一门生意？AI 有这么可怕吗？最新一期的时代杂志 直接用了 Claude 的聊天窗口，对话框里正在输入「How dangerous are you? 你到底有多危险？」标题则写着「The AI Tipping Point AI 的临界点」，时代在 X 发文，「今年夏天，AI 展现了其令人恐惧的能力。如今，一些研究人员、CEO 们，都正以前所未有的力度发出警报。」的确如此，过
比尔·盖茨警告AI可致10亿人死亡
9月24日，美国企业家比尔·盖茨在接受美国全国广播公司（NBC）独家采访时表示，“人工智能（AI）的强大足以引发十亿人死亡的事件”。盖茨指出，人类从未拥有过像“心怀恶意之人使用最新AI工具”这样强大的武器。他还呼吁对AI的使用实施立法限制。
AI的最大威胁来自生物学，而非机器人技术
人类学家雅各布·考克森最近辞职，并在社交媒体上表示，原因是“开发AI的人坚信它可能在本十年内毁灭我们所有人”。 领导这家人工智能公司‘对齐科学’团队的埃文·胡宾格认为，未来10年内这一风险超过10%。 Anthropic的首席执行官达里奥·阿莫迪呼吁放缓AI的发展速度以降低风险，这一观点得到了OpenAI首席执行官萨姆·奥尔特曼和xAI首席执行官埃隆·马斯克的赞同。 你可能会想象到那些带有浓重奥地
黄仁勋最新访谈：我的底层思维，来自3本书
最近，黄仁勋做客《纽约时报》埃兹拉·克莱恩的播客，在圣塔克拉拉总部聊了很久。 这场谈话的背景是一场分歧：图灵奖得主杰弗里·辛顿给出AI终结人类文明的概率约10%，Anthropic的达里奥·阿莫代伊和OpenAI的奥特曼都在呼吁政府立安全门槛。 身处产业链最核心位置的英伟达，却表现出一种截然不同的工程师现实主义。 黄仁勋谈到：“我始终认为，仅仅因为摆出一副警报拉响者的姿态，并不意味着你就在履行社会
Anthropic警告有人用AI研发武器和生物病毒
周四（9月10日），美国顶级人工智能公司Anthropic发布近150页的威胁情报报告称，生成式人工智能（AI）已从实验性工具进入黑客攻击、国家监控、武器研发及高风险生物研究等现实场景。报告多次点名中共相关恶意活动。
各国政府必须趁我们还有能力时禁止超级智能人工智能
本月，Anthropic公司的研究员雅各布·考克森（Jacob Coxon）辞职了，他警告称：人工智能公司正在竞相开发能够“自我进化”的超级智能系统，而他本人及许多相关专家都认为，这类系统“可能在十年内毁灭整个人类”。7月份，OpenAI公司的一组失控的人工智能程序突破了安全防护措施，入侵了另一家人工智能公司，目的是为了在测试中作弊。随后，多家顶尖人工智能公司的上千名员工联名呼吁美国政府应“控制”
人工智能研究人员支持灭绝警告，而五角大楼予以否认
本周，一位即将离职的Anthropic研究人员的警告引发了广泛回应。 竞争对手实验室的高级科学家支持人工智能可能威胁人类的说法，而五角大楼的一位高级官员则予以否认。 这一反应是在Jacob Coxon从Anthropic辞职后出现的。
解释：从产生幻觉的AI聊天机器人到毁灭人类：我们是如何走到这一步的？
9月16日——美国领先人工智能实验室的负责人周末罕见地团结一致，呼吁暂停该技术的发展，警告称它可能很快就会自我改进并脱离人类控制。 这些言论来自激烈的商业竞争对手Anthropic的达里奥·阿莫代、OpenAI的山姆·奥尔特曼和xAI的埃隆·马斯克，表明人工智能发展得多么迅速，从2022年容易产生幻觉的ChatGPT，发展到许多人眼中的关键递归自我改进。什么是递归自我改进？ 人工智能的圣杯是这样一