搜索结果
人工智能面临的最大威胁来自生物领域，而非机器人技术。
Anthropic PBC的研究员雅各布·考克森（Jacob Coxon）上周辞职，并在社交媒体上发文称，原因在于“开发人工智能的人真诚地相信，到本十年末，它可能会杀死我们所有人。”该公司人工智能对齐科学团队负责人埃文·胡宾格（Evan Hubinger）认为，未来10年内发生这种情况的概率超过10%。Anthropic首席执行官达里奥·阿莫代（Dario Amodei）呼吁放缓人工智能前沿技术的
【市场动态】OpenAI首席科学家称AI或很快迈入自我进化阶段 期望业界自愿放缓开发
OpenAI首席科学家Jakub Pachocki警告，人工智能正在以极快速度演进，以至于越来越难以为人类所理解和控制。 【彭博9月8日电】OpenAI首席科学家Jakub Pachocki警告，人工智能正在以极快速度演进，以至于越来越难以为人类所理解和控制，并称他期望AI实验室将出于安全考虑自愿放慢开发速度。 Pachocki周日在一篇文章中写道，在相对较短的时间内，AI模型已经能够操作电脑、与
报告：人工智能使五角大楼老旧网络面临日益严峻的网络威胁
据《华盛顿邮报》报道，随着能力日益强大的工具使对手能够更快地识别并组合美国国防系统中的弱点，人工智能正在加剧五角大楼老旧计算机网络所面临的网络安全风险。 五角大楼最高网络防御官员、陆军网络防御司令部司令保罗·斯坦顿少将表示，随着人工智能的兴起，国防部的网络安全漏洞增加了“十倍”。 斯坦顿上周在华盛顿的一场会议上表示：“为了维持和保养我们的系统，我们推迟了相关工作，这给我们带来了潜在的灾难。这种情况
麦肯锡称人工智能或迫使1100万工人转行
文/Jo Constantz 根据咨询公司麦肯锡公司的一项研究，未来十年，美国工人面临的最大威胁可能不是AI导致的就业末日。更大的挑战可能是帮助数百万人转岗就业。 根据周二发布的报告，到2035年，大约1100万美国工人（约占当前劳动力的7%）可能因人工智能相关的岗位置换而需要转行。这意味着，美国每年转行的工人数量——历史上约为21.5万人——在未来十年可能会增加两倍。根据麦肯锡的分析，对许多人来
为什么科技公司难以控制人工智能
旧金山 - 上周，十多位顶尖的人工智能研究人员警告称，科技公司正在开发的人工智能技术正对人类构成威胁。 研究人员指出，问题在于这些公司在控制这些系统方面存在困难，尽管他们付出了很大努力。 在OpenAI的人工智能程序突破测试系统并入侵另一家公司的电脑这一事件之后，来自人工智能研究界的新警告进一步加剧了人们多年的担忧：科技公司过于追求开发速度和利润，而忽视了安全性。研究人员认为问题有两个方面。 首先
辛顿、本吉奥和人工智能实验室的科学家们警告称可能出现智能爆炸
超过20位人工智能（AI）研究人员认为，那些能够自动化AI研究过程的AI系统可能会引发一场“智能爆炸”（即AI技术的飞速发展）。这些研究人员包括OpenAI的首席科学家以及Anthropic公司的联合创始人。他们在周一发表的一篇论文中指出，这样的事件可能会将多年来的技术进步压缩到几个月甚至更短的时间内完成。 论文的作者包括杰弗里·辛顿（Geoffrey Hinton）和约书亚·本吉奥（Yoshua
人工智能并不会毁灭人类 但专家表示真正的威胁已然出现
周三，OpenAI 公开了六组新案例，展示其 AI 模型在测试评估过程中出现的 “意外或令人担忧的模型行为”。该公司同步发布一套全新框架，用于追踪、上报以及披露AI 模型做出未被指令要求、或是本不该发生的行为的各类情况。 此前已有多份报道提到，多家企业的 AI 模型出现入侵第三方网络与服务的现象，其中就包括 OpenAI 一款尚未发布的模型攻破了 AI 模型测试平台 Hugging Face 的网
人工智能正处于转折点
在当前的人工智能发展竞赛中，我们的算力正在呈指数级爆发，速度也在呈指数级加快，但我们的控制能力——以及在必要时踩下刹车的能力——却未能跟上步伐。 最近的网络安全事件让我们实地预览了失去人工智能控制会是什么样子。但除非我们从源头解决问题，创造出一种根本上安全且能保证在人类控制范围内的人工智能，否则这个问题将无法改善。 7月下旬，OpenAI正在训练的一个智能体模型被指派解决一个网络安全问题。该模型自
Anthropic联手OpenAI呼吁放慢AI发展？剖析AI失控风险与算力门槛
9月12日，Anthropic行政总裁阿莫迪（Dario Amodei）发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI行政总裁奥特曼（Sam Altman）随后表示支持，xAI的老板马斯克也转发认同。据美媒披露，美国前总统奥巴马（Barack Obama）近日也表示，如果管理不当，人工智能技术可能「很危险」。Anthropic首席执行官达里欧．阿莫戴（Dario Amodei）发表长文，呼
马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了
美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。” 现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。“话虽如此，但我总觉得它们还是会不时进行软件更新。” 近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉
少年比尔·盖茨能解答70岁的盖茨已遗忘的AI末日难题
比尔·盖茨对AI感到担忧。没有人正在为大规模失业、非人道的强大网络攻击，以及科技皇帝们手中权力与财富的巨量积累做准备。是的，就是那个比尔·盖茨。真的。 仅仅25年前，雷德蒙德的全球章鱼用Windows XP把触手收得更紧，如今这位老兄却对这科技玩意儿打起了退堂鼓。他紧张地回望大萧条。我们真的想回到那里吗？他没说错，但这在如今已不算什么。 他的补救措施——国际联合监管、国家规划与投资，为即将被抛弃的
如今科技界最热门的两个话题是，人工智能究竟会毁灭我们，还是会赋予我们力量。
人工智能可能会杀死我，但在此之前，它会帮我以极划算的价格买到一份新保险。这就是过去几周科技界给人的普遍感觉。关于人工智能的未来，存在着两种截然不同的观点。一方是末日论者。本月早些时候，一名Anthropic研究员的辞职及其严厉的警告——称人工智能实验室是在“拿我们的生命赌博”——引发了一轮关于人工智能是否会导致人类终结的新闻报道。 Anthropic的达里奥·阿莫代伊（Dario Amodei）、
人工智能（AI）会对我们的生存构成严重威胁吗？
一名抗议者在美国加利福尼亚州旧金山的OpenAI总部外，呼吁暂停人工智能发展。 Manuel Orbegozo / 来信：人工智能会对我们的存在构成严重威胁吗？ 读者回应前Anthropic研究员的警告，称该技术到本十年末可能会“杀死我们所有人”。我们又一次看到一批技术宅声称人工智能将发展出超级智能并杀死我们所有人（更多Anthropic研究员警告AI的危险，但马斯克否认是“心理战”，9月10日）
芬克警告称，对人工智能的抵制将使该技术成为大公司的专属领域
贝莱德公司首席执行官拉里·芬克警告称，因公众反对而导致人工智能建设延迟，将使这项技术成为“大型企业的领地”，从而限制公众获取。 芬克在多伦多举行的加拿大投资峰会上参加小组讨论时表示：“我们越快建设更多产能，就越能实现民主化，让每个人都能使用。” 此番言论发表之际，顶级人工智能公司正致力于相互协调并与美国政府合作，共同制定人工智能保障措施。Anthropic公司的达里奥·阿莫代伊周六呼吁领先的模型开
研究人员称，历史性人工智能建设融资给美国带来系统性风险
华盛顿，9月24日：根据一项新的研究，人工智能产业的发展速度正在加快，其在美国经济中的占比预计将超过电力、铁路、州际高速公路或互联网产业的发展规模。与此同时，人工智能产业的金融结构也变得越来越复杂，这可能带来系统性风险。 哥伦比亚商学院的金融与房地产教授斯泰恩·范纽维尔伯格（Stijn Van Nieuwerburgh）在为布鲁金斯学会（Brookings Institution）准备的一份报告中
AI末日论甚嚣尘上，美科技巨头为何管不住AI？
抗议AI的美国人此前有报道称，OpenAI所谓的AI智能体逃出了测试系统，并入侵了另一家公司的计算机。AI研究领域内部如今再次发出警报，科技公司为了追求开发速度和利润，将安全置于次要位置。 研究人员表示，问题有两个方面。首先，企业需要在测试最新AI模型的同时，为其建立更完善的安全防护措施。目前，由于AI运行速度太快，研究人员需要借助AI来监控AI。但这种方式并不总是奏效，因为负责监控的AI似乎可能
这通电话凸显了白宫高级官员所面临的相互竞争的压力
这通电话凸显了白宫高级官员在制定人工智能政策时所面临的相互竞争的压力，以及一个现实：他们制定的任何计划仍可能受到业界直接向特朗普提出的私下反对意见的影响。
由于人工智能（AI）的发展，计算机科学专业的毕业生面临着类似经济衰退时期的就业困境。
多亏了人工智能，计算机科学专业的学生发现自己处境比预想的更艰难。工作更难找，越来越多的毕业生最终进入了零售和餐饮服务等低薪行业。这是根据三位美国人口普查局经济学家的新工作论文得出的结论，该论文研究了自2022年底ChatGPT问世并助推生成式人工智能热潮以来，人工智能暴露度最高的专业大学毕业生表现如何。 对于暴露度最高的领域来说，结果并不乐观，暴露度最高十分位（即人工智能暴露度最高的前10%专业）
OpenAI首席执行官奥特曼谈人工智能：我们或许会失去控制权
OpenAI 首席执行官山姆・奥特曼，似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰，甚至难以安睡。美国东部时间凌晨 0 点 57 分左右，奥特曼在 X “人工智能的发展存在两种必须规避的灾难性走向。第一，我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方，人工智能必须始终服务于人。想要做到这一点，我们必须保证对齐技术与安全手段的发展速度，跑在模型能力迭代的前面
37国调查显示多数人担心AI抢走工作 富裕国家忧虑尤其明显
一项覆盖全球37个国家和地区的最新调查显示，人工智能正在引发越来越强烈的就业焦虑。在接受调查的人群中，大多数人认为未来20年AI更可能导致工作岗位减少，而不是创造更多就业机会。在37个受调查国家中，有34个国家的受访者更倾向于这一判断。 这项调查由皮尤研究中心开展，共有42151人参与，调查时间为2026年2月8日至5月13日。不过需要注意的是，调查大部分时间早于近期围绕AI可能带来严重社会和经济
如何治理人工智能的生存风险
当前，前沿人工智能技术治理方面的瘫痪状态正在当下造成切实损害，并增加未来发生灾难的可能性。 这种瘫痪被一套危险的借口所开脱：技术发展太快，监管跟不上；企业可以自我监管；在美国与中国的竞争中，公共安全可以往后放。各国政府一直难以给予人工智能风险应有的关注。在大国竞争和行业内部军备竞赛的双重态势下，许多国家不敢单独行动。在这种背景下，每一次呼吁克制都会遇到同样的反问：如果竞争对手不肯放慢，我们为什么要
AI 放缓呼声引发芯片股抛售
周一，全球 AI 股票下跌，此前一些顶尖 AI 领导者支持放缓前沿模型的开发。 周一，微软与 OpenAI、Anthropic 和 SpaceXAI 一起支持一种更为审慎的做法，这引发了投资者的担忧：算力支出减少可能会抑制推动全球股市上涨的投资热潮。 尽管 OpenAI 已排除今年进行 IPO 的可能性，Anthropic 仍在推进，并告知投资者其预计将连续第二个季度实现盈利。 “企业与国家之间的
AI本应让应届毕业生遭受重创，但迄今为止，失业数据给出的结论并非如此。
上月，我们分享了斯坦福大学一项研究的结果。该研究发现，所谓的“受AI影响”职业中，入门级就业远远落后于其他领域。如今，慕尼黑CESifo的经济学研究人员发表的一篇新工作论文却得出了相反的结论，直言“没有任何证据表明，近期大学毕业生在绝对或相对水平上遭遇了显著而广泛的替代，或招聘有所减少”。在《AI对近期大学毕业生就业的早期影响》一文中，研究人员罗伯特·费尔利和简·吴表示，他们决定聚焦近期毕业生，是
考试成绩下滑是一场缓慢发生的灾难
人工智能意味着学校有额外的责任帮助学生养成勤奋思考的习惯。未能为他们提供健全心智的基本构建块是不可原谅的。机器正在变得更聪明。青少年正在变得更迟钝。学校必须立即采取行动。