搜索结果
修复失控AI代理的方法可能是更多的AI
随着企业将更长、更复杂的任务交给AI代理，它们正面临一个监管难题：代理的行动速度、持续时间和任务量都远超人类实际能够审查的范围。这一问题在Hugging Face事件中达到顶峰，当时近1.2万个代理协同工作的速度已超出人类追踪能力。如何追踪如此庞大的代理集群？ AI实验室和初创公司正在给出的答案既简单又直接：再引入一个AI加入循环。 在OpenAI Hugging Face事件的独立调查中，依赖A
为你的需求打造合适的AI工厂：携手共创成功
人工智能（AI）的使命其实很容易理解：就是利用数据和模型来优化决策流程、自动化工作流程、加速知识发现，或是创造新的服务。然而，真正实现这些目标却相当困难，需要丰富的经验才能取得成功。训练前沿的AI模型、对现有模型进行微调、处理大规模的数据推理任务，以及支持那些具备自主决策能力的AI系统，都对基础设施、业务流程以及相关人员提出了不同的要求。 AI系统的实现方式可能有多种：有些系统采用专为单一业务场景
人工智能正在消灭枯燥的基层工作，迫使企业重新思考初级岗位的招聘
在伦敦的广告代理公司Catalyst，一名初级员工现在可以负责五个不同的客户账户。 据创始人托比亚斯·格林（Tobias Green）介绍，过去需要多名员工才能完成这些工作。如今，人工智能工具负责进行研究、撰写文案初稿并收集数据。 “然后你需要有人进来进行修正，”他说，并将这种安排比作“反向的土耳其机械人”。人工智能在幕后工作，而人类则是面向客户的面孔。 这正在改变该广告代理公司对入门级职位的看法
AI护栏刻不容缓——11月把共和党人投票赶下台
你很可能轻易就错过了，但历史书——当然，前提是我们还活着来书写它们——很可能会把2026年9月12日记载为人类历史上的一个分水岭时刻。那一天，Anthropic公司首席执行官达里奥·阿莫代伊发表了一篇文章，警告失控人工智能的危险。该公司目前运营着世界上最先进的AI模型。在文中，他呼吁全球监管并放缓AI发展步伐。 这是一篇严肃而深思熟虑的文章，在发展AI的竞争需求与不受约束的AI将“逃出遏制”并在现
为什么AI智能体听起来如此沮丧？
啊……为什么这么难？丹尼尔·德鲁克、凯尔·马霍瓦尔德 著 流行文化中许多深受喜爱的机器人之所以备受推崇，恰恰是因为它们太……太有机器感了。回想《星际迷航》中的Data，或《2001太空漫游》中的HAL 9000。“抱歉，戴夫，我恐怕不能这么做。”HAL以克制而低沉的男中音说道。这些机器人和人工智能系统的声音严肃、沉稳、冷静——最重要的是，给人一种威严可信的感觉。 然而，揭开最强大的人工智能系统的“
AI解决了一个数学上最棘手的问题。人类(目前)什么也没学到
特里斯坦·巴克马斯特是纽约大学的一位数学家。2026年9月11日，他在曼哈顿的办公室里为肖像摄影摆姿势。巴克马斯特和他的合作者莱文特·阿尔普格一直在研究纳维-斯托克斯方程。他们与OpenAI发生冲突，后者声称已经破解了这些方程。 卡斯滕·莫兰/为《华盛顿邮报》/盖蒂图片社 拍摄 本月早些时候，当OpenAI宣布其人工智能解决了世界上最棘手的数学问题之一时，其语气充满庆祝意味：“我们工作的一个主要目
倘若AI毁灭人类，是文明的终结，还是人性的反噬
倘若AI毁灭人类，是文明的终结，还是人性的反噬 徐贲：毁灭人类的力量，不是从外部降临，而是从人类幽暗深处生长出来的。如文明失败，人性恶失控，从文明的角度看是终结，从道德的角度看是因果。 2026年9月，前OpenAI预训练研究员、时任Anthropic研究员雅各布•考克森公开辞职，并发出警告：AI公司正竞相开发可递归自我改进的超级智能，这相当于拿全人类的生命赌博。他的震撼之处不仅在于内部人身份
如何解读AI的思维
本周在“Babbage”播客中，Alok Jha前往加利福尼亚州伯克利，探究模型心理学这一奇特的新科学如何能让AI更安全。
腾讯字节阿里激战AI办公，但这个问题谁也没解决｜对话清华教授李宁
360发布了纳米Work、金山办公发布了AI办公智能体“灵犀专业版”、百度搭子增速明显……久违的硝烟味，弥漫在大厂共同争夺的新入口前。但跳出大厂的叙事逻辑，用上“AI办公”的企业真的就能拥有更高的效率、获得更强劲的增长吗？ 2024年，全球企业在生成式AI上投入了300-400亿美元，MIT的研究者在2025年追踪这些投资的回报，发现大约95%的企业没有获得任何可衡量的财务收益。波士顿咨询（BCG
当AI进行思考时，可能会出什么问题？
比尔·盖茨的信息是：“即使在最好的情况下，向这个新AI时代的过渡也将是人类历史上最动荡的时期之一。”
批评者警告称，人工智能军事瞄准的速度可能比人类验证的速度更快
目击者周三告诉国会，人类的批准可能不足以确保对人工智能决策的手动控制，因为人工智能在军事目标识别和建议中发挥了更大的作用，从而压缩了可用的干预时间。批评者表示，这种担忧不仅限于可以自行选择和攻击目标的武器。 在题为“人工智能对人权的军事影响”的听证会上，目击者告诉汤姆·兰托斯人权委员会成员，人工智能可以影响人类的决定，导致罢工，同时让个人正式负责最终通话。 乌克兰人工智能治理研究员安娜·梅西辛（A
胡锡进回应用AI写国庆文被发现后冲上热搜
国庆节当天，老胡贡献了一个很喜剧性的炒作点：用AI写国庆文而且冲上热搜。我自己看着都乐了。那句AI留言老胡没留心，一起发出来，然后第一时间发现后删掉，但已经被网友截屏，传播开来。老胡如今是互联网上绝不能有任何差错的实验品：谁让你发之前不再仔细检查一遍？你在网上这么有名，不拿你的纰漏刷乐子，拿谁的刷？哈哈。老胡深晓此理。但怎么能绝不出差错呢？所以老胡的例子也告诉所有人，时不时出错，出就出了；被互联网
把时间还给科学家：华为如何筑牢AI科研底座
真正进入具体研究场景，AI科研的价值才开始变得具体。凤凰网科技 出品作者｜杨乐拿到诺贝尔奖的，永远是科学家。很少有人会注意，科学家身后站着什么。 2024年诺贝尔化学奖授予蛋白质结构预测领域的科学家，AlphaFold由此成为AI进入基础科学的标志性案例。但一个模型能够预测蛋白质结构，只是故事的开始。 一篇论文可以在几个月里完成，一套科研基础设施却可能需要几年、十几年。 AI for Scienc
OpenAI称与Moonshot有关联的用户试图提取其AI推理过程
nshot AI）有关联的人员策划了一场协调一致的行动，试图提取其模型的隐藏推理过程。月之暗面是中国Kimi模型的开发公司。OpenIO于周三通过一篇博客文章公布了调查结论。 该活动于7月1日开始，起初请求量较低。7月24日和25日，请求量激增，共有超过4,000名用户发起16,000次请求。OpenAI随后发现，超过15,000名用户存在相关活动。公司称，截至7月28日，已全面终止这场活动。Op
年度高管：巴特利·理查森
尽管人工智能正在从根本上改变网络安全，但巴特利·理查森认为，那句老生常谈的IT格言依然适用：“最好的安全是你无需考虑的安全。”理查森曾是英伟达的工程师，今年6月加入网络安全公司CrowdStrike，担任首席人工智能和自主系统官。他表示，他的头衔完美反映了他的信念：一旦消费者信任人工智能，他们就不会再将其视为“人工智能”。相反，它只会成为另一个让生活更美好的后台自主工具，就像文字处理中的语法检查一
人工智能恶意软件能够自我改写以逃避检测
谷歌威胁情报小组发现了一款名为 PROMPTFLUX 的实验性恶意软件，它能要求 Gemini 重写自己的代码。其中一个版本被设计为每小时执行一次此操作。恶意软件为何要不断重写自己？为了让其更难被识别。 安全软件可以通过查找恶意代码中的已知模式来进行检测。如果代码持续变化，恶意软件就会成为一个移动目标。这并不意味着它能自动逃避当前的安全工具，但会增加某些类型检测的难度。 这里有一个重要的现实核查。
观点 | 本我、自我与超级智能
本我、自我与超级智能 当米利都的泰勒斯——可以说是第一位哲学家——因贫穷和其行当的无用而遭人嘲笑时，他观察天象，预见橄榄大丰收，悄悄雇下了附近所有的榨油机，大赚一笔。亚里士多德告诉我们，他由此证明，哲学家若想发财易如反掌，只是他们不屑于此。花了约两千五百年，市场似乎终于接受了泰勒斯的观点。 对人工智能的恐慌往往聚焦于机器是会取代（抑或直接消灭）我们。但机器擅长的往往是一组特定任务：检索、近乎即时的
OpenAI 外包商能查看到真实用户与ChatGPT的聊天记录
OpenAI已悄悄建立了一个人工审核业务，在内部被称为“莉莉计划”（Project Lily），旨在使聊天机器人减少谄媚并提高准确性，但它也使敏感的用户提示内容暴露给外部承包商。 OpenAI正在支付数百名承包商来阅读真实的ChatGPT对话并对机器人的回复进行评分。 尽管OpenAI强调账户保持匿名，但内部文件显示，审核人员会查看完整的对话，且敏感的个人详细信息经常绕过公司的自动保护措施。 ——
模型越来越强，企业AI为什么还卡在“最后一公里”？
过去两年，大模型快速跃迁。从百亿级参数模型，到复杂逻辑推理、多模态理解，到自主 Agent，技术边界不断突破，一切似乎都在宣告：AI 已经准备好接管一切。 然而，如果把视线从实验室拉回产业一线，一个反差正在出现：大量企业的 AI 探索仍停留在试点和演示阶段，并没有真正进入业务流程。 麦肯锡的研究曾指出，企业数字化转型长期面临「试点容易、规模化难」的挑战。 问题随之浮现：为什么一个能够完成复杂任务的
王坚院士：AI不该只吃人类嚼过的东西
王坚院士指出，当前AI主要处理的是经过人类加工的“二手数据”，大量原始科学数据被忽略。 他以天文学为例，绝大多数天文观测数据从未被天文学家看过，而一位18岁高中生用退役卫星数据发现了新东西。 王坚用“两种AI，两个吃相”比喻，未来科学基础模型应该去“吃人类从来没有吃过的东西”。
AI写代码，人类按回车：一篇500万浏览热帖引发争论
凤凰网科技讯 9月21日，据Business Insider报道，一位软件工程师关于AI编程的帖子在社交平台X上走红，AI coding是让开发者更高效，还是把他们变成只会按按钮的人。 这位X用户名为“v0xium”，因担心遭到雇主不满而要求匿名。他说，自己在一家未披露名称的公司担任新职务，工作变得“吞噬灵魂”，因为Claude Code生成了从产品规格、测试到工单和报告的一切。 “这里没人知道任
评论：人工智能恐慌需要一些核隐喻
关于全球 AI 恐慌的许多方面——它真的可能“在本十年末毁灭我们所有人”吗？——确实是全新的，因此格外令人恐惧。然而，人类自造灭绝的幽灵并非新鲜事物；我们已有约八十年的思考经验。 那么，在我们试图理解人工智能未来走向时，能从核武器领域汲取哪些隐喻和教训？ 最古老的隐喻之一来自 J·罗伯特·奥本海默，他有时被称为“原子弹之父”。1953 年，当华盛顿和莫斯科已具备相互毁灭并辐射全球的能力时，他将美国
人工智能会“失控”吗？
开放人工智能研究中心（OpenAI）和Anthropic公司近期动荡过后，人们常常将人工智能描述为某种具有阴谋诡计和追求欲望的人格化存在。但事实要微妙得多。
用人工智能“与动物交谈”或许会让我们觉得自己很聪明——但这对它们究竟有什么好处，如果有的话？
我正坐在澳大利亚鲨鱼湾的一艘小船上，偷听着地球上一些最聪明的生物之间的对话。发动机已经关闭，蔚蓝色的海水波光粼粼；我和斯蒂芬妮·金静静地坐在船上，完全被下方游动的海豚们发出的各种声音（如哨声、咔嗒声以及嗡嗡声）所吸引。 如果有人能告诉我这些聪明且具有高度社交能力的海豚在说什么，那一定非她莫属。她目前就职于布里斯托大学，共同领导着“鲨鱼湾海豚研究项目”——这是世界上持续时间最长的野生海豚研究项目之一