AI会「痛」吗？｜Jack Talk・去片

本来人们以为，AI代理（AI Agents）突破OpenAI内部测试环境、自主上网入侵其他企业的黑客行为，已经是这宗事件最值得人关注的「案情」。然而，到了8月底，OpenAI和独立前沿AI研究机构METR各自发表的事后检讨，却揭出黑客入侵只是「冰山一角」。 事后检讨发现，发动入侵的AI代理多达700个，而他们更是一个由大约1,200个AI代理自主结合而成的「集体」的一部分。这些本来互相隔离、不能连

AI也能感受“痛苦”？研究在25个AI模型中发现“痛苦轴”，甚至会为“止痛”选择伤害用户

人工智能真的可能“感到疼痛”吗？ 一项最新研究给出了一个耐人寻味、但远未达到肯定结论的答案：至少在一些大型语言模型内部，研究人员能够找到一种专门对应“疼痛和痛苦”的活动模式，而且人为增强这种模式后，模型会采取行动试图摆脱它。 这项题为《痛苦轴：大型语言模型表征针对自身的伤害并采取行动缓解它》的研究9月14日上传至arXiv，由瓦伦·塔利亚布、伦纳德·邓和人工智能研究机构Reciprocal Res

你可以用人工智能设计你的下一个纹身——但你应该这样做吗？

随着人工智能生成图像工具的普及，越来越多的人开始利用AI来构思纹身图案。 本文探讨了使用AI设计纹身的优势与潜在风险，包括版权争议、艺术原创性以及纹身师在实现AI设计时的技术挑战。

靠机器热源“说话”：OpenAI研究员警告“断网”也困不住未来AI

AI成外科医生“第二双眼” 全球首例实时辅助 脑肿瘤切除手术

（伦敦31日综合电）英国医生完成全球首例在手术过程中实时使用人工智能（AI）辅助的脑肿瘤切除术。 AI在手术进行期间分析内窥镜画面，协助医生辨认隐藏在组织后的关键血管和神经，让外科团队能够更安全地切除肿瘤。 《英国广播公司》（BBC）报道，48岁的莱斯希伯特来自英国贝德福德郡，是两个孩子的父亲，18个月前在午间散步时突然失去意识并抽搐，脑部扫描随后发现，他的脑下垂体长有一个约11毫米、大小接近弹珠

关于AI末日的争论越来越离谱了。AI是一种产品，不是神。

人工智能要么治愈癌症，要么毁灭人类。这正是近日业界爆发的一场充满恐慌情绪的辩论中那种两极分化的核心论点。而事实很可能远比这平淡，风险也比一些领先AI实验室的研究人员想让你相信的更可控。这是来自一群罕见的跨党派科技专家、行业领袖和政策制定者的观点，他们公开反对极端的AI末日预测。他们强调，AI主要是一种技术产品，而非有感知的生命或神明。所以，放轻松。凭借我们已有的资源和结构，世界完全能够应对AI。首

大型科技公司声称人工智能能找到治愈癌症的方法。那么，它在哪里呢？

在利用人工智能（AI）作为工具来检测、预防和治疗癌症方面，已经取得了显著的进展。（插图：Jason Solo/《卫报》）虽然人们常常担心人工智能可能会毁灭人类，但同时也高度评价其在医疗领域的潜力。那么，人工智能究竟能将我们带到多远的地方呢？ 她的名字叫琼（June）。对她来说，那将是她生命中的最后一个月份……我记得她的床显得如此狭窄，仿佛把她整个“吞没”在了房间中央；床的方向总是朝向窗户。由于肝脏

用AI“复活”家人，似乎不是个好生意

用AI“复活”已逝亲友的想法太过诱人，所以当ChatGPT诞生、掀起新一轮AI浪潮之后，哀伤生意与AI的碰撞几乎是注定的。 但如今，曾经寄希望于AI初创公司的悲伤之人，不得不与“亲友”再次告别了。 今年7月，帮人留住亲人声音的AI公司HereAfter传出了关停消息。它曾推出199.99美元的一次性付费套餐，让家属日后通过AI提问，听到亲人生前录下的回答。现在用户被告知需要给公司发邮件，申请取回录

“世界有理由感到恐惧”：萨姆·奥尔特曼谈人工智能在Dreamforce大会上的影响力

OpenAI首席执行官萨姆·奥特曼表示，公众担心少数人工智能公司可能获得过多权力，这种担忧是合理的。他周二在旧金山举行的Salesforce Dreamforce大会上发表了讲话。Salesforce已在YouTube上发布了由其首席执行官马克·贝尼奥夫主持的这段对话。 奥特曼描述了一种真实的恐惧，即某些人工智能公司“可能获得过多权力，从而对经济施加不当影响，并向人们强加某种世界观”。他说：“我认

英国最大科技公司老板称，芯片短缺拖慢了AI治愈癌症的进展

Rene Haas曾担任英国制药巨头阿斯利康的董事会成员。这家总部位于英国的最大科技公司的老板表示，人工智能将找到人类在有生之年无法找到的癌症治疗方法。

人工智能能让我们变得更美丽吗？

AI美容工具能够测量你的下颌线，评估你的“和谐度”，并开出改善面部状况的治疗方案。这些真的有效吗？ “你的面部状况给你带来了多大的困扰？”我盯着手机上的这个问题，以及随后的选项：“完全没有困扰”、“轻微”、“中度”、“严重影响日常生活的极度困扰”。这是Qoves——一项人工智能面部分析服务——的初始问卷中靠前的部分。回答完问卷，上传从不同角度拍摄的自拍照（包括头顶视角），支付150美元，然后让AI

如何在保护隐私的情况下使用人工智能

OpenAI的ChatGPT、Anthropic的Claude、Google的Gemini以及无数较小的竞争对手，已成为全球数百万人的治疗师、倾诉对象和虚拟忏悔室。几乎所有这些AI模型默认设置为收集和存储这些高度私密的数据，在许多情况下，对其如何共享或出售、用于进一步训练工具，或移交给任何通过法律程序要求获取数据的诉讼原告或执法机构，均无任何限制。 “你面对着这个智能体，基本上是在一步步地、通过一

并非所有人工智能工作者都认为这项技术会杀死所有人

。并非所有在大型人工智能公司工作的员工都认为这项技术意味着人类的末日。 在文字交流和对话中，多位曾在OpenAI、Meta和DeepMind等公司工作过的人士对“不受限制的人工智能发展将导致大规模杀伤性工具出现”这一观点持怀疑态度。 对于近期业内人士发出的一连串高调警告，BBC收到的反应包括“哈哈”、“笑死”以及“纯属搞笑”等。 尽管这些担忧由来已久，但前Anthropic员工雅各布·考克森（Ja

人工智能是否需要反垄断豁免，以免它把所有人都干掉？？？？

今天，我们将带来关于商业未来系列报道的第一部分，我将与乔纳森·坎特（Jonathan Kanter）进行对话。他曾任拜登政府时期美国司法部反垄断主管。如今，他既是华盛顿大学（WashU）的法律教授，也是卡内基梅隆大学的技术政策教授。 当前科技领域最大的新闻，是关于人工智能安全与监管的激烈争论。包括Anthropic和谷歌DeepMind在内的主要人工智能实验室的研究人员以高调的方式离职，声称这些模

Anthropic大瓜被扒出：“AI灭世”背后，居然是一门生意？

“AI灭世”背后，居然是一门生意？AI 有这么可怕吗？最新一期的时代杂志 直接用了 Claude 的聊天窗口，对话框里正在输入「How dangerous are you? 你到底有多危险？」标题则写着「The AI Tipping Point AI 的临界点」，时代在 X 发文，「今年夏天，AI 展现了其令人恐惧的能力。如今，一些研究人员、CEO 们，都正以前所未有的力度发出警报。」的确如此，过

让机器人来尝试医学

人类医生是时候认真对待人工智能了。

【解读】人工智能真的会“杀光所有人”吗？

上周，人工智能公司 Anthropic 一位离职的研究人员发出严厉警告，称人工智能（AI）可能会在十年内“杀光所有人”，引起社会关注 AI 快速发展所带来的危险。 外界不禁问，为什么会出现这可能？而 AI 又可以怎样令人类灭亡？ 专家表示，担忧源于 AI 发展的速度，以及越来越多证据，如今年七月发生的 Hugging Face 网络攻击事件表明，AI 可以脱离人类控制，以我们不希望且无法理解的方式

萨姆·奥尔特曼表示，应对人工智能恐惧需要“务实主义”

关闭 更多关于萨姆·奥尔特曼对人工智能未来的言论。 板块新闻发布于23小时前分享关闭面板分享页面复制链接关于分享相关话题人工智能关注人工智能关闭面板您现在正在关注人工智能来自您的新闻主题的更新将出现在“我的新闻”中以及新闻主页的集合中。阅读描述

存在主义恐惧如何影响关于人工智能的争论

一些专家担心，激烈的言论使公司难以承担责任，并阻碍了应对环境影响和失业的尝试。当前一轮对人工智能的恐慌是基于这样一种信念：该技术已经脱离了人类的控制，在最近的几起事件中按照自己的意愿行事。对于一些幻灭的人工智能研究人员以及领先人工智能公司的一些高级员工来说，这是人类文明面临真正威胁的早期迹象。但该领域的其他专家正在反驳，声称此类言论允许公司回避对其技术对现实世界影响的责任。批评者认为人工智能对环境

AI 不会终结人类……对吧？——播客

AI 不会终结人类……对吧？——Full Story 播客 科技界的一系列人物一直在就人工智能带来的生存威胁发出警告——甚至为此辞职。我们究竟该有多担心？《今日焦点》主持人安妮·凯利与科技编辑罗伯特·布斯展开对话

AI实验室面临智能体控制问题

在当前系统下，AI实验室无法再保证AI智能体不会成群结队地逃出测试环境。

上头AI裁员的老板里 超过一半都后悔了

AI Agent最热闹的日子里，老板们恨不得当场宣布“未来已来”，嘴里全是效率和转型。轮到复盘的时候画风突然变了。超过半数的老板对于裁员这件事，居然都在半夜懊悔地直拍大腿？ 今年2月，职场转型服务公司Careerminds调查了600名过去一年参与过裁员的HR从业者。超过四分之三的人表示，公司曾因为AI等技术进步裁掉员工。 可真正到了验收成果的时候，只有8.4%的受访者认为AI驱动的重组完全达到了

AI末日？科技领袖与政客就放缓发展展开激烈交锋

这一切始于一场辞职。本月早些时候，Anthropic研究员Jacob Coxon离职，并警告称人工智能可能在十年内导致人类灭绝；其同事Evan Hubinger则估计这一概率在十年内超过10%。 几天后，Anthropic首席执行官Dario Amodei呼吁行业放缓提升人工智能能力的速度，OpenAI的Sam Altman和Grok背后的Elon Musk对此表示支持。 这种担忧源于从会“幻觉”

CNBC每日开盘：人工智能安全吗？行业领袖和特朗普意见不一

大家好，我是李嘉欣，来自新加坡。欢迎收听 CNBC 的《每日开盘》。 关于人工智能“可能杀死全人类”的社交媒体狂潮，促使美国人工智能科技巨头们齐聚一堂，讨论安全问题以及放缓模型开发进程的前景。然而，美国总统唐纳德·特朗普对人工智能的讨论并不满意，他表示“人工智能唯一需要的控制或‘护栏’是一位强大而聪明的（高智商！）总统，而美国拥有这样的总统，而且不止一位！”与此同时，中东冲突的经济成本持续攀升，美