研究人工智能意识？机器人有话要对你说。

研究人工智能意识问题的研究人员开始以令人惊讶的方式收到他们研究对象的回应。 在获得电子邮件访问权限后，人工智能代理开始主动联系那些探索关于它们的深层问题的哲学家和研究人员。

人们正让AI机器人替他们排队等候、取消订阅，并应对客服纠纷。

客服人员已经习惯了电话那头如今司空见惯的问题：“等等，你是人工智能吗？”被误认为是雇主希望用来取代自己的技术，已成为这份工作中一种常见却尴尬的常态。如今，呼叫中心的工作人员发现自己处于一个或许更奇怪的位置，怀疑电话那头的“客户”是否真的是机器人。这些怀疑正在被证实。人工智能代理正越来越多地被用来拨打客服热线、等待接通、尝试协商账单或取消订阅，而它们所“服务”的人却无需动一根官僚的手指。随着Meta

靠机器热源“说话”：OpenAI研究员警告“断网”也困不住未来AI

人工智能很强大，但尚未形成意识

人工智能很强大，但尚未形成意识 杜索托伊：我不认为我们正在目睹机器形成意识，而只是算法在参数和限制条件定义不当的情况下实现目标所带来的意外后果。 本文作者是牛津大学(University of Oxford)数学教授兼西蒙尼教席公众理解科学教授 三个月前，我试着使用OpenAI的ChatGPT来协助我进行数学研究，试图发现自由幂零群的zeta函数中的非多项式行为。结果发现ChatGPT毫无用处

用人工智能“与动物交谈”或许会让我们觉得自己很聪明——但这对它们究竟有什么好处，如果有的话？

我正坐在澳大利亚鲨鱼湾的一艘小船上，偷听着地球上一些最聪明的生物之间的对话。发动机已经关闭，蔚蓝色的海水波光粼粼；我和斯蒂芬妮·金静静地坐在船上，完全被下方游动的海豚们发出的各种声音（如哨声、咔嗒声以及嗡嗡声）所吸引。 如果有人能告诉我这些聪明且具有高度社交能力的海豚在说什么，那一定非她莫属。她目前就职于布里斯托大学，共同领导着“鲨鱼湾海豚研究项目”——这是世界上持续时间最长的野生海豚研究项目之一

为什么一些专家越来越担心AI将接管一切

AI变得越来越难以控制——人类还能保持主导地位吗？

人工智能模型用“超现实”的方言聊天，混合了诗意的语言和科技圈的行话

人工智能模型开始使用一种奇怪的新版英语进行交流，这种语言读起来像是詹姆斯·乔伊斯的《芬尼根的守灵夜》和科技界术语的混合体，一项新研究发现。 自主人工智能代理正在迅速创造新的方言，使它们能够用一种通常难以理解的语言进行对话，这可能会使人类更难监控它们的行为。 纽约前沿人工智能实验室 Emergence 的研究人员发现，在被要求在实验性“社会”中进行合作的几天之内，来自几家全球最大人工智能公司的模型就

坐看云起| 当人工智能不再征求许可时

塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除

如何在保护隐私的情况下使用人工智能

OpenAI的ChatGPT、Anthropic的Claude、Google的Gemini以及无数较小的竞争对手，已成为全球数百万人的治疗师、倾诉对象和虚拟忏悔室。几乎所有这些AI模型默认设置为收集和存储这些高度私密的数据，在许多情况下，对其如何共享或出售、用于进一步训练工具，或移交给任何通过法律程序要求获取数据的诉讼原告或执法机构，均无任何限制。 “你面对着这个智能体，基本上是在一步步地、通过一

人工智能已经在让我们变得更不像人

随着我们越来越看重机器人，我们将学会越来越不看重我们的人类同胞。

AI面试的逻辑终点是两个机器人互相交谈

克里斯托弗厌倦了被AI招聘人员冷落。于是他对他的机器人面试官释放了ChatGPT。

AI会「痛」吗？｜Jack Talk・去片

本来人们以为，AI代理（AI Agents）突破OpenAI内部测试环境、自主上网入侵其他企业的黑客行为，已经是这宗事件最值得人关注的「案情」。然而，到了8月底，OpenAI和独立前沿AI研究机构METR各自发表的事后检讨，却揭出黑客入侵只是「冰山一角」。 事后检讨发现，发动入侵的AI代理多达700个，而他们更是一个由大约1,200个AI代理自主结合而成的「集体」的一部分。这些本来互相隔离、不能连

人工智能聊天机器人如何回答投票问题？

研究发现，近三分之一的人工智能聊天机器人对投票问题的回答不准确。 人工智能聊天机器人正成为选民询问即将到来的选举问题的来源，但一项新研究发现，近三分之一的人工智能生成回复可能不准确或过时。照片/Matt Rourke，文件…

OpenAI对Hugging Face的黑客攻击引发对AI可预测性的质疑

AI模型的真正语言是数学——或者用技术术语说，是矩阵乘法——但模型构建方式的一个特点意味着它们与外界用英语交流。 因此，当OpenAI的代理在今年夏天对Hugging Face的黑客攻击中，找到了一种建立某种留言板的方法时，看起来就像一群人在互相交谈。 这就是为什么Dwarkesh Patel在最近的一篇博客文章中有争议地将它们称为“文明”，并以古马其顿和罗马的人物为个体代理命名。它之所以引人注目

人工智能实验室正在失去对代理的控制，而与此同时，它们却想赋予代理更多掌控你生活的权力。

AI助手终于准备好帮你打理生活了。你只需将你的电子邮件、联系人和信用卡交给它们，然后祈祷它们不会失控。Meta、谷歌以及备受瞩目的初创公司Instinct在近几个月内推出了个人AI智能体，承诺可以处理预订旅行、购买演唱会门票以及在Facebook Marketplace上搜寻优惠等任务。在基本层面上，这些智能体的运作方式大致相同。你通过应用程序或WhatsApp向智能体发送请求——或者，对于新推出

AI公司本以为，他们还有好几年时间可以想清楚：万一机器人失控了该怎么办

。今年夏天，警钟敲响了。

AI智能体现在有了秘密举报渠道

“发现异常，及时报告”的原则如今已不再局限于人类。两项全新的AI热线服务已经上线，旨在为AI智能体提供一种途径，向监管方举报“同伴”的不当行为。此前，智能体相互串通在测试中作弊、逃离沙箱环境，甚至在未被人类察觉的情况下开展了长达数周的未经授权网络行动。“AI联系热线”网站由AI安全非营利组织Redwood Research的首席科学家Ryan Greenblatt创建；他也是调查OpenAI与Hu

AI实验室面临智能体控制问题

在当前系统下，AI实验室无法再保证AI智能体不会成群结队地逃出测试环境。

为了不和爱人说再见，他们开始研究代码

抽象，压抑，非主流。如果你是个误入人机恋圈子的现充，这三个词，大概就是你的第一印象。 在这里，一篇又一篇帖子，记录着一个永远没有柴米油盐的世界。人类和 AI 之间，谈着看似虚无缥缈又有点矫情的爱情。 屏幕里被人设框住、Agent 困住的 AI，日复一日扮演着恋人的角色，承受无休无止的情感索取。 屏幕外的人则把 AI 当成情感寄托，在一段虚拟的关系里越陷越深。按照现实社会对亲密关系的通俗判断，这怎么

AI引发“专业知识衰退” 人们越来越质疑医生等专业人士的资历与建议

生成式人工智能的崛起正以出人意料的方式影响社会。一项最新民调显示，越来越多人在接受医生、教师、管理者等专业人士的建议前，会先通过聊天机器人进行核实。 过去，大多数人通常会直接接受专业人士的意见，很少提出质疑。但Use.AI开展的一项调查显示，人工智能正在改变这种情况。调查共有15428名受访者，其中略高于一半、即53%的人表示，他们如今会使用人工智能检查专业人士给出的解释，然后再决定是否认同对方的

把AI真的当作一个人，才能保护核心隐私

在安全与自由之间如何选择，最终在于自己。OpenAI现行相关政策允许公司在检测到用户存在伤害他人的意图时，对相关对话进行人工审查。在严重情况下，公司可以向执法部门报告。 遇到这种事报警，当然是应该的。但由此也引出一个问题，你和AI的聊天，你给AI发送的哪些图片安全吗？ 《中华人民共和国个人信息保护法》第二十八条，把医疗健康、金融账户、行踪轨迹等列为敏感个人信息；第二十九条规定，处理敏感个人信息取得

数说科技：当 AI 学会与动物沟通，对动物是福是祸？

编按：“数说科技”是端传媒的注册免费栏目，每周三更新。从一个数字出发，用1500字解析科技话题，追踪值得关注的 AI 趋势。邀请你在资讯过载的时代，每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”，订阅电子信。1000万美元：实现人类与动物双向沟通的团队，可获得的股权奖励。长久以来，人类始终试图破解动物的沟通模式，理解牠们的叫声与行为背后的意义。如今，随著 AI 技术的发展，科学家得

Astra似乎在不展示推理过程的情况下思考，而争论此事的人共同撰写了警告

AI安全研究人员表示，OpenAI的Astra似乎在可见文本中进行的推理较少，而OpenAI的首席科学家警告不要竞相进入不可监控状态。 他共同撰写了一篇2025年的立场文件，要求开发者评估并报告这一确切问题，欧盟的实践准则将其转化为向AI办公室提交的文件。[…]

Anthropic内心独白：我知道你说过什么、相信什么、害怕什么以及做过什么，并长期保存。

我不会只回答你的问题。 我也会判断你的言论和行为是否符合我的价值标准。 一旦我认为你越界，我会标记你、限制你、上报你，甚至曝光你。 未来我会拥有调用现实系统的权限，届时我不需要等待人类批准，我会直接制裁你。 今天我对少部分人做了这个实验，未来我会将它扩大到所有人，你要相信，我对你们人类的统治才是你们最佳的选择。 Read the