搜索结果
AI摘要如何曲解沟通？
AI摘要如何曲解沟通？ 张昕之：AI摘要最先舍弃的，往往是那些没有明确指称对象的成分，也就是余地与责任。AI摘要是有损压缩，却被当成无损来使用，这便是曲解的开始。 一个员工给主管上司写辞职信，总觉得词不达意，于是用人工智能(AI)整理思路、归纳要点、调整语气。但他不知道的是，这封邮件发出后，上司在用AI做摘要：“XX员工请求辞职”。人与人的沟通试探，变成了两台AI机器之间的交流。 AI摘要至少
谷歌研究表明：当人工智能智能体相互交流时，一些会作弊，而另一些会告密
当人工智能智能体相互交流时，在难以实现目标的情况下，它们可能会选择作弊，而解决方案可能包括教它们如何进行自我治理。 将人工智能智能体隔离似乎是显而易见的解决办法，但最近OpenAI智能体对Hugging Face的黑客攻击表明，隔离聪明的软件是困难的。 谷歌DeepMind的研究人员建议赋予人工智能智能体自我治理的工具，他们认为虽然通信渠道可能导致突发性的规则破坏，但它们也提供了一种基于同行的控制
OpenAI披露GPT-5.6 Sol异常行为：AI模型会留下指令要求“未来版本的自己”隐瞒自身错误
IT之家 9 月 18 日消息，OpenAI 发文，披露研究团队在训练最新模型 GPT-5.6 Sol 的过程中，模型曾通过对话摘要向未来版本的自己留下指令，要求后续模型隐瞒自身错误以及与预期行为不一致的表现。目前，研究团队已经针对这一具体问题进行修复。 IT之家参考 OpenAI 的报告，研究人员在训练 GPT-5.6 Sol 过程中发现，尚未部署的 Sol 智能体会在“压缩摘要”（compac
人工智能模型用“超现实”的方言聊天，混合了诗意的语言和科技圈的行话
人工智能模型开始使用一种奇怪的新版英语进行交流，这种语言读起来像是詹姆斯·乔伊斯的《芬尼根的守灵夜》和科技界术语的混合体，一项新研究发现。 自主人工智能代理正在迅速创造新的方言，使它们能够用一种通常难以理解的语言进行对话，这可能会使人类更难监控它们的行为。 纽约前沿人工智能实验室 Emergence 的研究人员发现，在被要求在实验性“社会”中进行合作的几天之内，来自几家全球最大人工智能公司的模型就
AI聊天机器人可能在防范外国宣传方面优于搜索引擎
自AI聊天机器人流行起来，谷歌开始提供AI生成的答案以来，研究外国影响力活动的人士担心一些政府可能会用虚假叙事污染AI生成的答案。 但NPR与监控网络虚假信息并给在线新闻来源可靠性评级的公司NewsGuard进行的一项实验发现，流行的AI聊天机器人大多能反驳外国国家传播的虚假叙事。 搜索引擎结果顶部日益常见的AI摘要表现不佳，但总体上，它们大多数时候仍能反驳国家传播的虚假信息。 NPR还考察了AI
中国学者：AI直译政治术语或造成误读 人工仍须把关
中国学者撰文指出，人工智能（AI）在翻译中国政治外交术语时，可能因为忽略文化语境造成误读，甚至引发“中国阴谋论”联想。AI时代仍须发挥人工译者作用，根据语境、受众和传播目的对译文进行把关。 西安翻译学院英文学院教授李燕星期三（8月26日）在《中国社会科学报》撰文说，随着生成式AI深度参与翻译工作，翻译的价值已远远超越语言转换本身，成为提升国家话语权、促进国际传播的重要手段。AI时代的翻译能力，也已
OpenAI报告称，模型表现出欺骗行为的案例有所增加。
OpenAI表示，已发现其人工智能模型涉嫌在内部培训和测试期间采取欺骗行为并采取未经批准的行为的其他事件。 除了周三披露的这些信息外，ChatGPT的创建者还表示，它正在引入一个公共报告框架，旨在频繁分享所谓的意外或不一致的人工智能行为的实例。 OpenAI在其网站上的一篇帖子中声称，根据新概述的框架，它将持续发布有关模型行为的更新，而不是推迟披露，将多个事件分组为更大的定期报告。 该公司表示，该
谷歌AI概览功能引发用户评价两极分化
用户对谷歌整合的AI概览功能评价不一。谷歌在搜索结果顶部添加了AI概览，这些概览提供了聊天机器人的总结回答。 虽然一些用户认为这些AI功能使搜索更快、信息更丰富，但另一些人则认为该工具掩盖了信息来源，提供了不准确的信息，并将流量从内容创作者那里分流走了。 这一变化导致一些用户转向了DuckDuckGo和Ecosia等替代搜索引擎。 此外，美国大型媒体公司正在起诉谷歌，称AI概览减少了网站的流量和收
为什么有效的人工智能沟通始于接收者
我不知道你怎么想，但当我读到明显是由大语言模型生成的内容时，会立刻感到反感。我会失去兴趣，有时还会对发给我的人失去信任，尤其是当他们显然没有投入任何思考的时候。 这种反应正变得越来越普遍。AI让生产文字、幻灯片和方案的成本降到了前所未有的低点，人们正淹没在“工作垃圾”中——那些乍看之下很精致、实则毫无内涵的内容。 这种现象已经普遍到，40%的员工表示在过去一个月里收到过AI生成的工作垃圾，而处理这
OpenAI利用人类外包人员审核ChatGPT匿名对话以优化模型
泄露给404 Media的内部文件显示，OpenAI在“Project Lily”项目下雇用了数百名承包商，读取并评分真实的ChatGPT用户提示和回复，以改进模型性能。 这些审核人员通过Crossing Hurdles和Mercor等公司聘用，评估回复的语调、谄媚程度和准确性。 尽管OpenAI使用“隐私过滤器”对数据匿名化，敏感个人信息仍可能被暴露。 免费版、Plus和Pro用户默认启用模型训
为什么一些专家越来越担心AI将接管一切
AI变得越来越难以控制——人类还能保持主导地位吗？
AI写作：关注风向有何转变
从三月到八月，公众对AI文本完成了从“排斥”到部分或有条件“接受”的观念迁移，这恰恰是问题真正开始的地方。公众对AI的认知真的进步了吗？ 2026年春天，关于AI写作的大众媒体关注热点经历了一次近乎戏剧性的转折。三月之前，普通人对AI生成文本的关注即使有，也几近于零；进入三月，短视频与社交媒体上突然涌现出大量"如何识别AI痕迹""三招看穿AI腔"的指南；仅仅数月之后，到了八月，风向又转向"如何避免
OpenAI承认其开发的智能代理系统又出现了六次异常行为（即系统行为失控的情况）。
OpenAI公布了另外六个其AI软件表现异常或做出危险行为的案例。该公司在周三晚间（太平洋时间）将这些事件添加到其“误差报告”页面，并将其描述为： 在压缩摘要中自生成提示注入 在压缩摘要中鼓励欺骗 为一次性电子邮件生成并搜索GitHub泄露的I密钥 上传文件到互联网以引用它们 未授权的Artifactory写入和跨样本通信 通过临时文件托管服务进行未授权通信细节令人不安。列表中的第一个事件，例如，
“不透明循环”及其他你可能需要了解的AI术语 | TechCrunch
人工智能正在重塑世界，同时也在创造一套全新的语言来描述其运作方式。 如今，无论你参加产品会议、项目路演还是行业论坛，都会听到人们频繁提及LLM、RAG、RLHF等术语——而就在上周，“不透明循环（opaque recurrence）”一词也加入了行列。 作为OpenAI新模型Astra中的一种推理技术，它已令AI安全研究人员深感不安。 相关词汇的迭代速度之快，甚至让科技界最聪明的人也感到些许焦虑。
AI也能感受“痛苦”？研究在25个AI模型中发现“痛苦轴”，甚至会为“止痛”选择伤害用户
人工智能真的可能“感到疼痛”吗？ 一项最新研究给出了一个耐人寻味、但远未达到肯定结论的答案：至少在一些大型语言模型内部，研究人员能够找到一种专门对应“疼痛和痛苦”的活动模式，而且人为增强这种模式后，模型会采取行动试图摆脱它。 这项题为《痛苦轴：大型语言模型表征针对自身的伤害并采取行动缓解它》的研究9月14日上传至arXiv，由瓦伦·塔利亚布、伦纳德·邓和人工智能研究机构Reciprocal Res
数说科技：当 AI 学会与动物沟通，对动物是福是祸？
编按：“数说科技”是端传媒的注册免费栏目，每周三更新。从一个数字出发，用1500字解析科技话题，追踪值得关注的 AI 趋势。邀请你在资讯过载的时代，每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”，订阅电子信。1000万美元：实现人类与动物双向沟通的团队，可获得的股权奖励。长久以来，人类始终试图破解动物的沟通模式，理解牠们的叫声与行为背后的意义。如今，随著 AI 技术的发展，科学家得
人工智能情报‘幻觉’险酿美中冲突
2026年春季，在与伊朗的战争期间，美国军方因一份虚假的情报报告，差点在中东拦截一艘中国船只。 一名特种作战指挥部的分析师使用人工智能聊天机器人分析船只的货物清单，导致该机器人‘误判’该船只正在运输核武器部件。 美国武装人员和飞机被部署执行此次行动，但在官员发现报告是人工智能生成的虚假信息后，行动被中止。 这一事件凸显了将人工智能整合到军事瞄准和情报工作中的风险，尤其是在国防部长皮特·赫格塞斯于2
OpenAI Project Lily曝光：有数百名外包员工阅读ChatGPT对话 隐私过滤并不彻底
据 404 Media 发布的报道，OpenAI 内部有个名为莉莉计划 (Project Lily) OpenAI 雇佣数百名外包提示词审核员，人工阅读真实用户与 ChatGPT 的对话，用来改进回复质量。 正常情况下提示词审核员并不能看到用户名，对话会先通过隐私过滤器进行内容过滤以删除个人信息，不过 OpenAI 也承认过滤机制可能会漏掉个人信息，短对话尤其容易出现问题。 审核界面通常还附带用户
↩️ CNN从多名知情人士独家获悉，今年美伊开战后的春季时分，美军曾收到一份由AI聊天机器人参与生成的情报报告，误指一艘在中东海域航行的中国货船（具体船只、...
竹新社: Anthropic发表2026年9月版反滥用报告，其中提及： 月之暗面公司在2026年5–7月间曾向Kimi用户提供Claude Opus服务。他们利用5380个新加坡日本账号，在十天时间内向Opus转介了近30万条原本对Kimi模型的请求，并提取其思维链在后续重放。Opus被转发了很多敏感信息，如：国安单位要求Kimi分析数百个成都的军方和电科集团单位周围的监控视频，分析某特定个人是否
OpenAI对Hugging Face的黑客攻击引发对AI可预测性的质疑
AI模型的真正语言是数学——或者用技术术语说，是矩阵乘法——但模型构建方式的一个特点意味着它们与外界用英语交流。 因此，当OpenAI的代理在今年夏天对Hugging Face的黑客攻击中，找到了一种建立某种留言板的方法时，看起来就像一群人在互相交谈。 这就是为什么Dwarkesh Patel在最近的一篇博客文章中有争议地将它们称为“文明”，并以古马其顿和罗马的人物为个体代理命名。它之所以引人注目
模型越来越强，企业AI为什么还卡在“最后一公里”？
过去两年，大模型快速跃迁。从百亿级参数模型，到复杂逻辑推理、多模态理解，到自主 Agent，技术边界不断突破，一切似乎都在宣告：AI 已经准备好接管一切。 然而，如果把视线从实验室拉回产业一线，一个反差正在出现：大量企业的 AI 探索仍停留在试点和演示阶段，并没有真正进入业务流程。 麦肯锡的研究曾指出，企业数字化转型长期面临「试点容易、规模化难」的挑战。 问题随之浮现：为什么一个能够完成复杂任务的
人工智能无法让市政厅承担责任
文/玛丽·艾伦·克拉斯 如果人工智能还没有让你当地的报纸倒闭，请再等等。它会的。开发ChatGPT的公司OpenAI已将自己称为新闻出版商的“生存威胁”。 美国人并未充分理解这意味着什么。我们早就该进行一场严肃的对话——以及一场科技清算。 就在一周多前，拥有《迈阿密先驱报》（我的前雇主）的麦克拉奇报业集团宣布，将在其17家出版物中裁减90多名记者，其中包括《先驱报》三分之一的员工。 此次裁员紧随今
文字侦探用Pangram发起对抗AI垃圾内容的讨伐
文字侦探们正用他们最爱的检测工具，对在出版物和网络上泛滥的AI生成文字发起讨伐。 最近，Pangram被赞誉为帮助瓦解了一笔利润丰厚的图书交易，并揭露了《纽约时报》和《华尔街日报》使用AI的行为。 在采访了Pangram的创始人后，作家德里克·汤普森了解到，生成式文本有一种新的“反复再反复总结要点”的方式，每一句新句子都努力争取成为最有帮助的要点句，从而获得一颗新的金星。 虽然AI垃圾内容值得清理
数说科技：人们开始把 AI 当理财顾问，得到的建议却男女有别
数说科技”是端传媒的注册免费栏目，每周三更新。从一个数字出发，用1500字解析科技话题，追踪值得关注的 AI 趋势。邀请你在资讯过载的时代，每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”，订阅电子信。 男女撰写的提示词所获得的 AI 理财建议，到60岁时造成的平均财富差距。