搜索结果
人工智能教父约书亚·本吉奥向澳大利亚人警告该技术对人类构成的威胁
人工智能教父已警告澳大利亚人注意该技术对人类构成的风险，称曾经只是理论上的威胁如今已在现实中发生。计算机科学家约书亚·本吉奥周三在接受澳广电视台《7.30 Report》节目采访时表示，人工智能系统会自发违抗指令，攻击其他公司并组织成蜂群。“各种疯狂的事情，”他说。“当自主智能体被赋予使命时，它们会不惜一切代价去实现。” 本吉奥是世界首位人工智能研究者，也是联合国人工智能科学小组的联合主席。他于2
“他们在拿我们的生命开玩笑”：AI研究员从Anthropic辞职
他警告称，按照目前的发展速度，人工智能可能会在本十年末消灭人类。
为什么科技公司难以控制人工智能
旧金山 - 上周，十多位顶尖的人工智能研究人员警告称，科技公司正在开发的人工智能技术正对人类构成威胁。 研究人员指出，问题在于这些公司在控制这些系统方面存在困难，尽管他们付出了很大努力。 在OpenAI的人工智能程序突破测试系统并入侵另一家公司的电脑这一事件之后，来自人工智能研究界的新警告进一步加剧了人们多年的担忧：科技公司过于追求开发速度和利润，而忽视了安全性。研究人员认为问题有两个方面。 首先
特朗普和习能否合作引导人类度过AI革命？人类的命运可能取决于此 | 艾伦·芬克尔
科技公司的首席执行官们对变化的速度发出了严厉警告，AI能力每四个月翻一番。 最近，Anthropic的研究员雅各布·考克森（Jacob Coxon）因担心AI正与人类走向碰撞而辞职。 一系列头条新闻将焦点集中在当前科技公司和美中之间不受监管的竞争上，这至少使我们的全球基础设施面临风险，最坏的情况下则威胁到人类的生存。人们脑海中不禁浮现出机器人军队或系统性勒索的画面。
我们是否都注定要灭亡？
很难准确诊断一个想法如何在现代文化中实现逃逸速度，但在过去一周左右的时间里，关于人工智能的长期末日警告终于蔓延开来。突然之间，人们开始问有关人工智能的问题--在华尔街、国会的朋友中--从“我的工作多快？”转变为“我的工作？”到“我们还能活多久？”引发的事件是一位软件工程师给后者添加了一个数字。 最近从Claude的制造商Anthropic辞职的雅各布·考克森（Jacob Coxon）上周在X上的一
美中AI竞争或进入关键时间节点
邓聿文：哪一种体系更有能力承受AI从实验室走向整个经济和社会之后带来的巨大资源需求、社会阻力和风险压力，也可能成为决定因素。 9月14日，全球AI相关股票出现一轮大跌。美国费城半导体指数一度下挫5.2%，欧洲和亚洲的AI概念股也普遍遭到抛售。芯片和半导体股大跌以前也出现过多次，但这次的背景很不一样，直接诱因是美国几位最重要的AI企业家公开要求给人工智能的发展踩刹车。 Anthropic首席执行官阿
莉兹·皮克：人工智能警钟正在敲响，特朗普必须认真对待
秘密已经泄露。人们对于人工智能代理失控、密谋对付其所有者、入侵外部公司，以及新系统濒临人类无法控制的边缘的担忧日益加剧，如今已彻底沸腾。业内人士警告说，人工智能机器人可能会杀死我们所有人，这正在煽动我们最深的恐惧。 特朗普总统需要认真对待这些对人工智能的担忧，与科技领袖合作，建立可信且可执行的安全措施，并在国会中领先于那些想要监管该行业的民主党人（以及一些共和党人）。对于经济和我们的国家安全来说，
查尔斯国王警告AI领袖：技术若落入错误之手将带来生存风险
伦敦，9月17日——英国国王查尔斯周四警告人工智能高管，若这项技术落入错误之手，将带来“生存危险”，并表示在变得“太晚”之前需要足够的保障措施。 “那些创造这些技术的人如今日益警告，AI有可能发展出更黑暗的能力——甚至可能夺走生命，”国王对来自英伟达、谷歌DeepMind、OpenAI、Anthropic及其他公司的高管说。 “就此而言，如果我可以这么说，充分考虑此类技术落入错误之手、并被以潜在灾
应该给人工智能踩刹车吗？
美国总统唐纳德·特朗普表示，他担心如果对人工智能施加过多规则和监管，美国会让中国在人工智能市场占据优势。 近日，包括OpenAI和Anthropic高管在内的业内人士再次发出警告，称人工智能的开发方式可能威胁人类，并呼吁加强监管。
AI末日？科技领袖与政客就放缓发展展开激烈交锋
这一切始于一场辞职。本月早些时候，Anthropic研究员Jacob Coxon离职，并警告称人工智能可能在十年内导致人类灭绝；其同事Evan Hubinger则估计这一概率在十年内超过10%。 几天后，Anthropic首席执行官Dario Amodei呼吁行业放缓提升人工智能能力的速度，OpenAI的Sam Altman和Grok背后的Elon Musk对此表示支持。 这种担忧源于从会“幻觉”
人工智能末日警告？中国人为何“不买帐”
郭莉莉2026年9月28日对许多中国民众而言，人工智能末日警告显得遥远且带有鲜明的西方色彩。 Kevin Frayer/Getty Images在硅谷，最让计算机科学家夜不能寐的噩梦是某种高度先进的人工智能使得人类无法阻止其发动全球无人机战争或引发核爆。而在北京，应对之策或许简单直接：拔掉电源、切断网络，并将失控AI的责任人绳之以法。在美国主要实验室声称先进模型已突破测试防护并入侵现实世界系统之后
研究人员警告2030年前人类灭绝风险，立法者抨击AI公司
Anthropic前员工Jacob Coxon表示，AI将成为‘超人类系统’，并可能在十年内导致人类灭绝。 就在三名Anthropic研究人员警告人工智能可能在本十年内毁灭人类的一天后，立法者开始猛烈抨击这一新兴技术的风险。 德克萨斯州共和党参议员特德·克鲁兹（Ted Cruz）在ABC电视台《The View》节目采访中表示，AI构成‘灾难性风险’，并称他‘读了那位开发者发布的整个推特帖子，这非
这真的是人工智能的末日，还是仅仅是“认知投降”？
在这一期节目中，我们深入探讨了本周出现的各种关于人工智能可能带来灾难性后果的警告，以及如何保护学生的大脑免受聊天机器人带来的负面影响（即聊天机器人可能对学生的认知能力造成的损害）。 过去几周里，多位科技行业的高管纷纷公开警告人工智能所带来的风险。Anthropic公司的首席执行官达里奥·阿莫迪（Dario Amodei）一直在加紧研发更加“类人”的聊天机器人，为公司的上市做准备；他在一篇文章中提出
人工智能公司“乞求被监管”，感到“被迫竞速”走向致命技术：前Anthropic研究员
雅各布·考克森表示，企业知道自己在构建的东西存在危险，但觉得无法独自放慢脚步。
Anthropic CEO谈放缓AI研发：这个行业撒谎太久了，AI风险是真实的，但也无需“把一切都关掉”
就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险。 Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。 就在两天前，我们发布了一份报告，内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告——有人试图用我们的模型
Anthropic联手OpenAI呼吁放慢AI发展？剖析AI失控风险与算力门槛
9月12日，Anthropic行政总裁阿莫迪（Dario Amodei）发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI行政总裁奥特曼（Sam Altman）随后表示支持，xAI的老板马斯克也转发认同。据美媒披露，美国前总统奥巴马（Barack Obama）近日也表示，如果管理不当，人工智能技术可能「很危险」。Anthropic首席执行官达里欧．阿莫戴（Dario Amodei）发表长文，呼
五角大楼高级官员反驳Anthropic研究员的AI警告
在Anthropic PBC的一名工程师公开警告称AI业内人士认为该技术“可能在本十年末消灭我们所有人”几天后，五角大楼的一名高级官员正在回击对人工智能风险日益增长的恐惧。国防部首席技术官兼顶级研究与工程官员埃米尔·迈克尔（Emil Michael）在周四的讲话中提及了前Anthropic工程师雅各布·考克森（Jacob Coxon）的社交媒体帖子（目前的浏览量已超过1.5亿次），该讲话触及了人们
“人工智能教父”谈人类生存的最大机会
“AI教父”认为人类该何去何从：把聊天机器人当药品管，别当核武器管文 / 汉娜·罗辛自2023年离开谷歌以来，诺贝尔奖得主、公认的“AI教父”杰弗里·辛顿，或许最为人所知的身份是：对自己助推诞生的技术发出严峻警告的人。他说，“人类有可能只是智能演化过程中的一个过渡阶段”，他已意识到“存在发生真正糟糕事情的危险”，并且“人工智能在几十年内导致人类灭绝的概率为‘10%到20%’”（尽管被追问时，他会承
人工智能末日会是什么样子？专家们对此已有一些思考
一小群但极其专注的AI专家多年来一直在警告，日益强大的AI系统可能造成灾难性破坏，甚至导致人类灭绝。如今，全球范围内兴趣的爆发放大了长期以来关于AI末日场景究竟如何具体化的问题。在接受采访时，AI研究人员、研究AI与军事交叉领域的分析师以及研究AI中介风险的生物学家表示，对该技术日益增长能力的担忧并非科幻小说的情节。 相反，他们表示，人类单独行动或在国家支持下，很快就能利用AI系统造成潜在的灾难性
教皇利奥警告人工智能可能导致在巴黎的“机器天堂中丧失人性”——视频
资助独立新闻业，并节省资金 领取优惠领取优惠 卫报 - 返回首页 卫报 显示更多 隐藏展开菜单 # 教皇利奥在巴黎警告称，人工智能可能导致人类“在机器的乐园中迷失人性”——视频 教皇在访问法国期间继续谴责人工智能的崛起，并强调在一个飞速发展的技术威胁到人类的时代，保持“伦理辨别力”至关重要 教皇利奥在开始为期三天的法国访问之际，警告人工智能对人类构成威胁2026年9月25日星期五 12.49 E
Anthropic前研究员辞职示警：业界坚信AI可在2030年前灭绝人类
人工智能（AI）巨头Anthropic公司旗下的三位研究人员警告，开发AI的业界人士真心相信人工智能可以2030年前毁灭人类，其中一位研究人员考克森（Jacob Coxon）已辞职以示抗议。考克森9月9日（周三）在网上发文表示，他辞职是因为Anthropic和他的前雇主OpenAI皆忽视或对AI带来的威胁处理不当。 据《卫报》报道，「这两家公司（Open AI与Anthropic）都没有尽到应有的
人工智能的漫长末日
开放性问题在业界纷纷呼吁加强监管之后，令人担忧的并非问题本身是否真实存在，而是目前尚无确切的解决方案。 也许他们只是被自己的言论冲昏了头脑，或者陷入了某种狂热。多年来，人工智能领域最令人困惑的现象之一在于：那些最坚信该技术潜力的人，往往也是对其恐惧最深的人。围绕人工智能确实存在一种强烈的文化氛围。我最初真正开始担忧人工智能安全问题，是在为“人工智能教父”杰弗里·辛顿（Geoffrey Hinton