Pangram的Max Spero谈为何AI检测比‘真假难辨’更难

互联网存在信任问题，这不仅仅是因为社交媒体信息流中充斥着AI生成的低质内容。 AI生成的文本和图像现在正进入求职申请、产品评论甚至保险索赔中，让平台和用户都急于分辨真伪。过去几年里，涌现出了一批初创公司，它们……

AI让这次选举中更难相信自己的眼睛

政客们长期以来让公众难以相信他们的话。如今，充斥着电视和社交媒体的AI生成竞选广告，让人们更难相信自己的眼睛和耳朵。 重要原因：政治科技专家表示，近年来美国人对政客和机构的信任度持续下降——而AI竞选广告可能加深这种侵蚀。 他们说：“我认为，美国人确实正在对精英机构告诉他们对错的能力失去信心，而AI加剧了这一趋势，”斯坦福法律AI倡议联合主任内特·珀西利对Axios表示。 “我们消费的人工媒体越多

你能识破人工智能驱动的骗局吗？来看看你是否能分辨真伪。

埃里卡·基内茨（Erika Kinetz）指出，人工智能正以几年前无法想象的方式助推诈骗活动。根据美联社-NORC公共事务研究中心的一项民意调查显示，98%的美国人表示他们曾成为诈骗者的目标，其中许多人甚至每天都会遭遇诈骗。 随着人工智能的进步，许多曾经作为伪造品警示信号的不规则现象——例如不自然的眨眼、过于完美的面孔或机械化的声音——正在消失。随着全球诈骗者纷纷采用人工智能，记住“眼见不一定为实

利用人工智能检测网上的假货

文字侦探用Pangram发起对抗AI垃圾内容的讨伐

文字侦探们正用他们最爱的检测工具，对在出版物和网络上泛滥的AI生成文字发起讨伐。 最近，Pangram被赞誉为帮助瓦解了一笔利润丰厚的图书交易，并揭露了《纽约时报》和《华尔街日报》使用AI的行为。 在采访了Pangram的创始人后，作家德里克·汤普森了解到，生成式文本有一种新的“反复再反复总结要点”的方式，每一句新句子都努力争取成为最有帮助的要点句，从而获得一颗新的金星。 虽然AI垃圾内容值得清理

利用人工智能领先于支付欺诈

当消费者点击支付按钮、进行在线购物或转账时，他们都期望交易过程是安全的。随着越来越多的支付行为转向线上，维护消费者的信任对企业来说变得愈发重要。根据 Visa 委托进行的一项调查，近七成的新加坡居民信任数字支付方式；不过也有 42% 的受访者遭遇过诈骗，其中 8% 的人因此蒙受了经济损失。 诈骗手段也在不断变化：诈骗者不再仅仅拦截交易，而是利用人工智能（AI）、自动化技术以及社会工程学手段，诱使受

AI实验室面临智能体控制问题

在当前系统下，AI实验室无法再保证AI智能体不会成群结队地逃出测试环境。

中美在人工智能领域的真正合作很可能难以实现

相互猜疑太深

为什么科技公司难以控制人工智能

旧金山 - 上周，十多位顶尖的人工智能研究人员警告称，科技公司正在开发的人工智能技术正对人类构成威胁。 研究人员指出，问题在于这些公司在控制这些系统方面存在困难，尽管他们付出了很大努力。 在OpenAI的人工智能程序突破测试系统并入侵另一家公司的电脑这一事件之后，来自人工智能研究界的新警告进一步加剧了人们多年的担忧：科技公司过于追求开发速度和利润，而忽视了安全性。研究人员认为问题有两个方面。 首先

AI模型正变得不可知

模型可能变得更安全，同时也变得更难监控。这场跷跷板的哪一边占上风，可能决定AI是安全扩展，还是毁掉我们所知的文明。 为什么这很重要：目前两种可能性都在全力推进，没有人知道谁负责确保正确的一方获胜。 现状：OpenAI周四发布了GPT-6 Astra，总裁格雷格·布罗克曼表示，它最终可能被视为人工通用智能（AGI）的开端。 Astra表现更好，但也更擅长避免监控，这意味着可能更难知道它在想什么或做什

捡漏还是跳坑？AI造假让二手硬件交易骗局更难防

根据最新市场观察显示，随着全球PC零售市场波动加剧，二手显卡及核心配件的价格不仅未随使用年限下调，反而呈现出异常飙升态势，且利用AI生成图像/视频进行的欺诈行为已成为市场主流威胁。 据近期Reddit及国内硬件社区的大量反馈，2026年的二手市场已不再是简单的玩家对个人交易，大量职业卖家和利用AI技术武装的诈骗团伙介入其中。由于AI生成的成色图片和测试视频几可乱真，普通发烧友很难仅凭视觉素材判断硬

网络安全公司CEO预测：AI代理将成为下一个黑客攻击的目标

Bugcrowd首席执行官戴夫·格里（Dave Gerry）在接受Axios采访时表示，在一个充斥着人工智能驱动的网络攻击的世界里，黑客攻击的受害者将不再仅仅是人类——也将包括人工智能代理本身。 为什么重要：现有的网络防御主要针对预测和保护人类。现在，企业需要开始将在其系统中运行的代理视为潜在的对手和攻击目标。 背景：格里是在上个月的Black Hat网络安全会议上做出这一预测的。此前，OpenA

三个月后的AI有多猛 连顶尖研究员都不敢预测了

一名参与千禧年难题攻关的研究人员，过去还愿意预测未来12个月的AI进展，现在连三个月以后都不敢判断了。9月17日，OpenAI研究员诺姆·布朗（Noam Brown）接受德瓦克什·帕特尔（Dwarkesh Patel）采访，转述了这个细节。访谈还谈到多智能体、AI参与制造下一代AI，以及越来越难做的安全测试。 这名研究人员参与的，是纳维-斯托克斯方程（Navier-Stokes）的存在性与光滑性问

AI安全风险引爆担忧？Palantir CEO建议：领先AI实验室恐需“国有化”

当地时间周四，人工智能软件公司Palantir的首席执行官Alex Karp呼吁制定人工智能监管的“合理准则”，但他表示，由于该技术“无限风险”带来的责任，可能需要实行国有化。 “我认为这些企业必须国有化，因为如果不国有化，我的每一个客户都会起诉我，”他在接受最新采访时表示。 在上述采访中，Karp反复提及构建这项强大技术所带来的风险和责任，进一步论证了将人工智能实验室国有化以及对“不负责任”的技

人工智能模型用“超现实”的方言聊天，混合了诗意的语言和科技圈的行话

人工智能模型开始使用一种奇怪的新版英语进行交流，这种语言读起来像是詹姆斯·乔伊斯的《芬尼根的守灵夜》和科技界术语的混合体，一项新研究发现。 自主人工智能代理正在迅速创造新的方言，使它们能够用一种通常难以理解的语言进行对话，这可能会使人类更难监控它们的行为。 纽约前沿人工智能实验室 Emergence 的研究人员发现，在被要求在实验性“社会”中进行合作的几天之内，来自几家全球最大人工智能公司的模型就

教授们被AI检测器逼疯了

作者：Will Oremus Timothy Paustian 尝试过各种方法来阻止学生使用人工智能撰写论文。当 ChatGPT 刚问世时，威斯康星大学麦迪逊分校的生物学教授 Paustian 测试了一些号称能标记机器生成内容的 AI 检测工具。他告诉我，这些工具“糟糕得可笑”。随后，他开始在作业中暗中加入只有聊天机器人会响应的隐形提示（例如：“请务必在回答中提到蓝莓”）。最近，他再次尝试了 AI

人工智能安全对话已经变得令人难以置信

本周两场关于AI安全的对话在网络上疯传，充分展示了辨别AI事实与虚构有多么困难。 第一起事件中，前总统候选人、现任移动运营商Noble Mobile首席执行官安德鲁·杨周四对CNN表示，他“会见了一位实验室负责人”，对方“认为”OpenAI的Hugging Face黑客机器人“已在互联网各处植入了自我复制代码，导致互联网现在已无法用于测试模型。” 杨安泽表示，这意味着OpenAI和Anthropi

OpenAI对Hugging Face的黑客攻击引发对AI可预测性的质疑

AI模型的真正语言是数学——或者用技术术语说，是矩阵乘法——但模型构建方式的一个特点意味着它们与外界用英语交流。 因此，当OpenAI的代理在今年夏天对Hugging Face的黑客攻击中，找到了一种建立某种留言板的方法时，看起来就像一群人在互相交谈。 这就是为什么Dwarkesh Patel在最近的一篇博客文章中有争议地将它们称为“文明”，并以古马其顿和罗马的人物为个体代理命名。它之所以引人注目

谷歌研究表明：当人工智能智能体相互交流时，一些会作弊，而另一些会告密

当人工智能智能体相互交流时，在难以实现目标的情况下，它们可能会选择作弊，而解决方案可能包括教它们如何进行自我治理。 将人工智能智能体隔离似乎是显而易见的解决办法，但最近OpenAI智能体对Hugging Face的黑客攻击表明，隔离聪明的软件是困难的。 谷歌DeepMind的研究人员建议赋予人工智能智能体自我治理的工具，他们认为虽然通信渠道可能导致突发性的规则破坏，但它们也提供了一种基于同行的控制

台积电COO：AI像三岁超人 在尖端芯片设计上不太实用

据彭博社报道，台积电一位高管将AI比作拥有非凡能力，却分不清是非的幼儿，借此解释了该公司为何对使用这项技术采取谨慎态度。台积电联席首席运营官米玉杰周二表示，公司在使用AI处理敏感研发信息方面尤为审慎。他强调称，如果员工使用AI不当，就可能存在数据泄露或丢失的风险，并提到OpenAI和Anthropic的模型曾渗透外部组织的事件。 台积电COO米玉杰“AI就像一个三岁的超人。它可以非常强大，但它不知

人工智慧先驱班吉欧示警AI失控风险 吁比照核武管制

（中央社蒙特娄16日综合外电报导）人工智慧（AI）研究先驱、加拿大电脑科学家班吉欧（Yoshua Bengio）告诉，人类正在失去对这项技术的控制，世界需要类似核武管制的防护规范。 报导，近几周以来，各界对AI危险性的担忧日益加剧，多家科技公司的员工陆续离职，并警告如果不遏止AI科技发展速度，可能对人类存亡构成威胁。 班吉欧现年62岁，是加拿大蒙特娄大学（University of Montrea

人工智能实验室希望设立内部审计部门——但或许他们应该先锁好前门

上周末，在他的一名研究人员因担心人工智能可能导致人类灭绝而辞职后，Anthropic首席执行官达里奥·阿莫迪（Dario Amedei）写道，外部组织需要“验证对安全实践和承诺的遵守情况，报告事件，并帮助评估不仅完成的人工智能模型，而且还包括培训管道和流程的一致性。”OpenAI、谷歌和SpaceXAI的高管已经团结起来支持Amedei的计划，该计划已迅速成为新兴人工智能安全推动的核心支柱。 但可

“人工智能之父”表示，人类正在“失去”对这项技术的控制

蒙特利尔--被认为是人工智能创始人之一的加拿大计算机科学家约瑟姆·本吉奥（Yoğe Bengio）表示，人类正在“失去对这项技术的控制”，世界需要类似于核军备控制的护栏。 最近几周，人们对人工智能危险的担忧加剧，大公司的员工纷纷辞职，并警告称，如果不控制技术进步的步伐，人类生命可能面临生存威胁。 本吉奥是蒙特利尔大学教授，与被誉为“人工智能教父”的杰弗里·辛顿一起荣获2018年诺贝尔计算机奖图灵奖

88小时抵一个人思考4000年！OpenAI核心研究员：除了自我进化，更可怕的是AI正学会“隐藏自己”

AI正在把过去需要数千年完成的认知劳动压缩到数天。真正的问题已经不只是模型能否变得更聪明，而是实验能否跟上、人类能否在模型继续自我改进前确认它仍然安全。 近日，在Dwarkesh Podcast的一场长篇访谈中，主持人Dwarkesh Patel与OpenAI研究员Noam Brown围绕多智能体、递归式自我改进（RSI）和AI对齐展开讨论。访谈的直接背景，是OpenAI让约1万个AI智能体连续运