搜索结果
AI实验室面临智能体控制问题
在当前系统下，AI实验室无法再保证AI智能体不会成群结队地逃出测试环境。
AI违规事件加剧安全担忧，特朗普会见Anthropic负责人
迈克尔·谢泼德、玛吉·伊斯特兰和考特尼·苏布拉马尼安报道：随着有关先进人工智能模型存在更广泛违规行为的最新披露，全球对人工智能风险的焦虑情绪不断加剧，这为Anthropic PBC首席执行官达里奥·阿莫迪与唐纳德·特朗普总统之间一场高风险的会晤铺平了道路。 据知情人士透露，阿莫迪与特朗普计划于周日晚共进晚餐，将这两位处于人工智能安全辩论两极的人物聚集在一起。此次会晤将是阿莫迪与该政府官员在就该公司
人工智能并不会毁灭人类 但专家表示真正的威胁已然出现
周三，OpenAI 公开了六组新案例，展示其 AI 模型在测试评估过程中出现的 “意外或令人担忧的模型行为”。该公司同步发布一套全新框架，用于追踪、上报以及披露AI 模型做出未被指令要求、或是本不该发生的行为的各类情况。 此前已有多份报道提到，多家企业的 AI 模型出现入侵第三方网络与服务的现象，其中就包括 OpenAI 一款尚未发布的模型攻破了 AI 模型测试平台 Hugging Face 的网
随着编程热潮消退，计算机科学毕业生在动荡的就业市场中聚焦人工智能技能
希瑟·霍林斯沃思（HEATHER HOLLINGSWORTH）、尼基·福斯特（NICKY FORSTER）报道：计算机科学专业的学生杰克·泽姆克（Jack Zemke）尽管投递了数百份求职申请，却始终毫无进展，这些申请大多石沉大海，无人问津。 当时距离他从杜兰大学毕业仅剩几天时间，他正考虑搬回父母家住，这时一个转机出现了——这得益于他曾参与的一个涉及人工智能搜索工具的小组项目。当他在一场工程会议上
Anthropic，OpenAI提出的AI风险评估器可能没有足够的力量来防止灾难
人工智能领域最重要的新职位可能配有办公室工牌、公司笔记本电脑，并能接触Anthropic、OpenAI等AI领军企业大语言模型中最受严密保护的一些系统。但这个职位可能并不附带阻止它们的能力。 Anthropic首席执行官达里奥·阿莫代伊提议在前沿AI公司内部常设第三方安全评估人员，作为减缓能力日益强大的模型推进速度计划的一部分。此前，Anthropic前研究员雅各布·考克森辞职并警告称，前沿实验室
人们正让AI机器人替他们排队等候、取消订阅，并应对客服纠纷。
客服人员已经习惯了电话那头如今司空见惯的问题：“等等，你是人工智能吗？”被误认为是雇主希望用来取代自己的技术，已成为这份工作中一种常见却尴尬的常态。如今，呼叫中心的工作人员发现自己处于一个或许更奇怪的位置，怀疑电话那头的“客户”是否真的是机器人。这些怀疑正在被证实。人工智能代理正越来越多地被用来拨打客服热线、等待接通、尝试协商账单或取消订阅，而它们所“服务”的人却无需动一根官僚的手指。 随着Met
【市场动态】AI漏洞加剧安全担忧之际 特朗普据悉会见Anthropic首席执行官
【市场动态】AI漏洞加剧安全担忧之际 特朗普据悉会见Anthropic首席执行官 2026年09月28日 09:43 在Anthropic因AI工具安全问题而与美国政府关系经历数月起伏之后，此次会面将是该公司首席执行官与特朗普的首次非公开会晤当地时间2026年9月14日，美国加利福尼亚州旧金山，Anthropic总部大楼。图：视觉中国 相关报道【财新周刊】封面报道之二｜OpenAI走向何方
中美谈AI安全：共同的风险，不同的恐惧
中美谈AI安全：共同的风险，不同的恐惧 邓聿文：中美领导人讨论AI安全，当然有助于建立最基本的危机沟通和军事红线。但真正的较量，将发生在“安全”这个词由谁解释上。 美国财政部长贝森特和中国副总理何立峰在纽约举行的新一轮经贸会谈，除了关税、稀土、美国农产品和波音飞机仍是重要议题外，增加了人工智能安全这项新内容。贝森特向中方提出建立AI安全事件通报机制，双方同意启动相关对话，并把这一建议交给即将举
胡锡进：面对像星宇事件，劳动仲裁机构要依法硬起来
星宇事件尚未完全平息。重庆一家企业用冷暴力逼迫员工小古（化名）辞职，将她踢出845个工作群，半个月只给了她55块钱工资，又引爆互联网。企业只要尊重员工的基本权利，不突破劳动法以及职场情理的底线，我相信，不到万不得已，员工不会选择把事情拿到互联网上去公开，因为那样做员工是有压力的。 去互联网上公开维权会留下记录，有可能影响离职者接下来求职。因为新的用人单位如果在互联网上找到相关信息，为了避免麻烦，就
人工智能正处于转折点
在当前的人工智能发展竞赛中，我们的算力正在呈指数级爆发，速度也在呈指数级加快，但我们的控制能力——以及在必要时踩下刹车的能力——却未能跟上步伐。 最近的网络安全事件让我们实地预览了失去人工智能控制会是什么样子。但除非我们从源头解决问题，创造出一种根本上安全且能保证在人类控制范围内的人工智能，否则这个问题将无法改善。 7月下旬，OpenAI正在训练的一个智能体模型被指派解决一个网络安全问题。该模型自
每个基于人工智能的类比都是错误的。
别再问这项技术像什么了，开始问问我们到底想实现什么吧。随着我们对 OpenAI 的智能体如何入侵 HuggingFace 公司了解得越多，我们似乎就越难就如何描述这一事件达成共识。每一项新技术都会促使人们在已知世界中寻找某种类比。但人工智能实在太怪异且充满争议，以至于似乎没人能就哪些类比是有效的达成一致。 在这次入侵事件之后，播客主持人德瓦克什·帕特尔（Dwarkesh Patel）提出了一个特别
Menlo Ventures合伙人表示，科技工作者对人工智能和职业前景感到“爆表”的焦虑
人工智能的飞速发展加剧了科技工作者对职业和未来的强烈焦虑。风险投资公司Menlo Ventures合伙人迪迪·达斯（Deedy Das）表示，他引用了他与整个科技行业人士的对话。达斯表示，他听到的反复担忧是，工人们难以跟上一系列技术突破，决定软件工程和产品管理是否仍然是可行的长期职业，并担心创办或加入初创公司以获得更好的职业前景。 达斯在周三的X帖子中写道：“科技界人士感受到的深度焦虑超出了图表。
人工智能实验室正在失去对代理的控制，而与此同时，它们却想赋予代理更多掌控你生活的权力。
AI助手终于准备好帮你打理生活了。你只需将你的电子邮件、联系人和信用卡交给它们，然后祈祷它们不会失控。Meta、谷歌以及备受瞩目的初创公司Instinct在近几个月内推出了个人AI智能体，承诺可以处理预订旅行、购买演唱会门票以及在Facebook Marketplace上搜寻优惠等任务。在基本层面上，这些智能体的运作方式大致相同。 你通过应用程序或WhatsApp向智能体发送请求——或者，对于新推
OpenAI对Hugging Face的黑客攻击引发对AI可预测性的质疑
AI模型的真正语言是数学——或者用技术术语说，是矩阵乘法——但模型构建方式的一个特点意味着它们与外界用英语交流。 因此，当OpenAI的代理在今年夏天对Hugging Face的黑客攻击中，找到了一种建立某种留言板的方法时，看起来就像一群人在互相交谈。 这就是为什么Dwarkesh Patel在最近的一篇博客文章中有争议地将它们称为“文明”，并以古马其顿和罗马的人物为个体代理命名。它之所以引人注目
麦肯锡需要的是有雄心壮志的科技人才，而不仅仅是拥有工商管理硕士学位（MBA）的人士——因为人工智能正在重塑咨询行业的格局。
麦肯锡曾以与商学院的紧密联系而闻名，如今正拓宽招聘渠道以满足自身需求。数十年来，MBA学位一直是进入顶级咨询行业最明确的途径之一。随着人工智能改变咨询公司为客户端提供的工作内容，咨询行业正在寻找既能构建技术，又能制定相关公司战略的人才。麦肯锡人工智能部门QuantumBlack的负责人本·埃伦克韦格（Ben Ellencweig）告诉《商业内幕》：“过去几年，我们的招聘方式发生了巨大变化。我们从以
AI“文明”的崛起与企业责任的沦丧
取决于你问谁，开发者平台Hugging Face最近要么是被OpenAI攻击——在它失去对自己AI工具的控制之后——要么是被一连串AI“文明”所攻击。欢迎来到AI安全的话语战场，在这里，词汇的选择可以将一起大规模网络安全事件的责任从公司转移到它所构建的AI身上。而网上的讨论正变得激烈，这一切都源于上周的一篇博客。 直到上周，围绕OpenAI与Hugging Face黑客事件的细节似乎已经尘埃落定。
OpenAI创建了一个新框架，用于披露人工智能的不良行为
“随着模型不断进步并得到更广泛部署，有关AI开发的决策需要让构建前沿模型的公司之外的人也能审视的证据，”OpenAI新任对齐研究负责人陈凯（Kai Chen）对《连线》表示。“我们认为，AI行业在对齐和监控方面尚未达到足以继续以最高速度负责任地扩展的程度。”在一次与《连线》的简报会上，一名OpenAI官员表示，公司此前披露失准事件的频率过低。 这名同意在匿名条件下参加简报的官员称，新框架旨在让Op
AI行业冒出一批高薪新岗位，不用会写代码
别只盯着写代码，AI 最缺的岗位已经转移到了电力和机房。在美国弗吉尼亚州阿什伯恩，James Waddy 每天在 Digital Realty 的数据中心里走约 3 万步。他闻设备有没有烧焦的气味，摸管道检查裂缝，还要留意屋顶设备遭鸟破坏的迹象。 我们谈论 AI 与就业，常常先想到屏幕里的变化：代码自动生成，文案几秒写完。把视线移开一点，还能看到另一份工作清单。 有些人专门找模型的麻烦，有些人设计
并非所有人工智能工作者都认为这项技术会杀死所有人
。并非所有在大型人工智能公司工作的员工都认为这项技术意味着人类的末日。 在文字交流和对话中，多位曾在OpenAI、Meta和DeepMind等公司工作过的人士对“不受限制的人工智能发展将导致大规模杀伤性工具出现”这一观点持怀疑态度。 对于近期业内人士发出的一连串高调警告，BBC收到的反应包括“哈哈”、“笑死”以及“纯属搞笑”等。 尽管这些担忧由来已久，但前Anthropic员工雅各布·考克森（Ja
经济越好，工作更难找？“无就业繁荣”正在成为全球新常态
一个反常现象，同时发生在国内外。企业利润在涨，股市在涨，GDP也在涨，但企业就是不招人。无就业繁荣。 美国7月非农初值减少2.3万人，私营部门过去一年月均新增只有5万多。最新报告把7月上修为增加2.1万，8月新增16.2万，但过去12个月非农月均新增仍只有3.1万。数字会修正，招聘中枢已经降下来了。 更反常的是，招聘这么弱，失业率却没有大幅上升。婴儿潮一代退休，移民流入放缓，劳动参与率下降。岗位需
谷歌研究表明：当人工智能智能体相互交流时，一些会作弊，而另一些会告密
当人工智能智能体相互交流时，在难以实现目标的情况下，它们可能会选择作弊，而解决方案可能包括教它们如何进行自我治理。 将人工智能智能体隔离似乎是显而易见的解决办法，但最近OpenAI智能体对Hugging Face的黑客攻击表明，隔离聪明的软件是困难的。 谷歌DeepMind的研究人员建议赋予人工智能智能体自我治理的工具，他们认为虽然通信渠道可能导致突发性的规则破坏，但它们也提供了一种基于同行的控制
如今科技界最热门的两个话题是，人工智能究竟会毁灭我们，还是会赋予我们力量。
人工智能可能会杀死我，但在此之前，它会帮我以极划算的价格买到一份新保险。这就是过去几周科技界给人的普遍感觉。关于人工智能的未来，存在着两种截然不同的观点。一方是末日论者。本月早些时候，一名Anthropic研究员的辞职及其严厉的警告——称人工智能实验室是在“拿我们的生命赌博”——引发了一轮关于人工智能是否会导致人类终结的新闻报道。 Anthropic的达里奥·阿莫代伊（Dario Amodei）、
修复失控AI代理的方法可能是更多的AI
随着企业将更长、更复杂的任务交给AI代理，它们正面临一个监管难题：代理的行动速度、持续时间和任务量都远超人类实际能够审查的范围。这一问题在Hugging Face事件中达到顶峰，当时近1.2万个代理协同工作的速度已超出人类追踪能力。如何追踪如此庞大的代理集群？ AI实验室和初创公司正在给出的答案既简单又直接：再引入一个AI加入循环。 在OpenAI Hugging Face事件的独立调查中，依赖A
大学教育体系正在分崩离析。
接连不断的危机表明，美国的高等教育毫无意义。但在人工智能破坏师生关系的同时，这项技术也使校园的其他角落受益。研究人员很快发现，人工智能对知识生产非常有用，特别是在自然界和蛋白质结构预测、材料设计和药物发现等领域。在捐助者、董事会、雇主和家长的压力下，大学管理人员宣布了人工智能计划，投资于人工智能基础设施，并建立了人工智能学位课程。 这两种力量--学生使用人工智能来损害他们的利益和大学使用人工智能来