Anthropic首席执行官呼吁放缓前沿AI开发 拟建立三层安全机制

Anthropic首席执行官达里奥·阿莫代伊呼吁控制前沿人工智能模型能力提升的速度，为安全评估和防护措施争取时间。他提出引入常驻独立评估人员、协调主要开发商的安全标准，并推动跨国风险管控合作。 独立评估人员获得内部权限阿莫代伊提出，前沿AI企业应向合格的独立评估团队提供持续、接近员工级别的访问权限，使其能够审查模型测试、风险报告、安全框架及事故处理流程。 Anthropic承诺率先实施该措施。外部

美国雇主使用软件惩罚工人，率为欧洲的16倍。差距在法律中。

一项由OECD对六个国家的6047家企业进行的雇主调查发现，67%的美国企业使用软件来处理业绩不佳的情况，而调查的四个欧洲国家中仅有4%。美国企业还监控对话内容和语气的比例为55%，而欧洲仅为6%。OECD将这一差距归因于监管架构。这些工具大多不是人工智能，OECD警告称，这使得它们远离专门为人工智能编写的规则。 OECD调查了六个国家的6047家企业，了解它们是否使用软件来指导、监控或评估员工。

AI反弹波及课堂

美国最大的两个学区上周都实施了全面的AI禁令，给这项正迅速进入全国课堂的技术踩下了刹车。 重要性：关于AI教育价值的研究结果好坏参半。一些研究发现个性化AI辅导可以提高学习效果，而另一些研究则将AI辅助写作与批判性思维减弱联系起来。 新闻动态：纽约市公立学区禁止约60万名学前班至八年级学生使用AI，仅允许高中生进行特定用途的使用。数小时后，洛杉矶联合学区在另行限制屏幕时间之后，宣布在2026-27

英国约翰·刘易斯希望在‘困难经济’中利用AI代理购物

OpenAI同日发布两份文件：AI加速时代，安全正在掉队

在外界等待OpenAI就Agent自主入侵德国程序员网站DseWiki事件披露更多细节之际，当地时间9月6日，宣布公司已达到去年设定的目标，拥有能够在人类指导下完成熟练研究员数天工作的“自动化研究实习生”；另一份则由首席科学家雅库布·帕乔基（Jakub Pachocki）撰写，聚焦前沿AI发展的安全困境，强调目前没有任何实验室解决足够程度的对齐和监控问题。 两份文件释AI已经开始反过来加速AI研发

独家：考克森、伯尼与班农联手推动“亲人类”人工智能

前Anthropic研究员弓箭手雅各布·考克森，参议员。 伯尼·桑德斯和特朗普前白宫顾问史蒂夫·班农将于周二联手参加一场活动，推动由人类控制的人工智能。一位行业内部人士、进步运动的代表人物和MAGA阵营的重要声音结成了看似不可能的联盟，这标志着人工智能正在颠覆政治常规。推动这一进程的未来生命研究所正在组织周二的“亲人类大会”。这家非营利倡导组织是“亲人类人工智能宣言”的幕后推手，该宣言呼吁保护人类

AI“自我演进”可能彻底失控？Anthropic顶尖大牛愤然离职！

周二，一位来自 Anthropic 的资深研究人员也因深感所在企业及竞争对手正在陷入一场无序狂飙。 现年 27岁、专攻通过让 AI 模型处理海量数据来训练新模型的研究员Jacob Coxon于周二正式宣布辞职。 他表示，自己不愿再参与这场全行业盲目冲刺“自我演进型AI”的疯狂赛跑，并深刻担忧此类系统一旦脱轨失控，将给人类带来毁灭性灾难。 “我们正朝着其中许多最激进的场景发展，到明年年底，局势可能已

OpenAI首席科学家警告：AI公司应放慢开发步伐 没有人为后果做好准备

据《商业内幕》报道，就在OpenAI发布了性能强大的新模型几天后，该公司首席科学家呼吁放慢AI的发展速度。当地时间周日，OpenAI首席科学家雅库布·帕乔基(Jakub Pachocki)发布长文称，他担心“没有人对机器智能持续快速崛起所带来的后果做好准备”。 他说，尽管OpenAI正在内部研发技术解决方案，以更好地控制强大的AI智能体，但“还需要更广泛的干预措施”。他尤其担心，随着AI智能体变得

OpenAI首席执行员下周赴安理会作简报

阿尔特曼下周将到联合国安理会进行简报。（图：路透社） （华盛顿19日法新电）OpenAI周五表示，该公司首席执行员阿尔特曼将于下周在联合国大会期间，向联合国安全理事会作简报。 此次会议由国安理会轮值主席国的法国组织召开，此前该行业的主要参与者曾表示，出于安全考虑，可能有必要放缓人工智能的发展步伐。 随着人们对这项快速发展的技术所带来的危险的担忧日益加剧，联合国秘书长古特雷斯周三呼吁采取协调一致的国

人工智能每项任务的环境影响随复杂度增加而急剧膨胀

基准测试机构Vals AI发现，多阶段任务可能要求模型消耗的能量或水比简单查询呈指数级增长。 随着人工智能的使用从简单的一次性查询转向更长、更复杂的任务，所需计算量的增加导致环境足迹急剧扩大。使用某些模型构建一个网页应用所需的能量，相当于为一个家庭供电2.5小时。 这是根据独立AI基准测试公司Vals AI的一项新分析得出的结论，该公司在真实世界任务上评估模型。该公司发现，需要AI模型“思考”更长

台积电COO：AI像三岁超人 在尖端芯片设计上不太实用

据彭博社报道，台积电一位高管将AI比作拥有非凡能力，却分不清是非的幼儿，借此解释了该公司为何对使用这项技术采取谨慎态度。台积电联席首席运营官米玉杰周二表示，公司在使用AI处理敏感研发信息方面尤为审慎。他强调称，如果员工使用AI不当，就可能存在数据泄露或丢失的风险，并提到OpenAI和Anthropic的模型曾渗透外部组织的事件。 台积电COO米玉杰“AI就像一个三岁的超人。它可以非常强大，但它不知

人工智能先驱警告：自动化研究可能导致人类失去控制

领先的AI研究人员和行业专家警告称，AI开发的自动化程度不断提高，可能会增加人类失去对这些日益强大系统的控制权的风险。 这一警告来自周一发表的一篇论文，该论文由20多位研究人员和行业专家共同撰写，其中包括诺贝尔奖得主杰弗里·辛顿（Geoffrey Hinton）、约书亚·本吉奥（Yoshua Bengio）、OpenAI的首席科学家雅库布·帕乔茨基（Jakub Pachocki）以及Anthrop

别再把学童当作碰撞测试的假人

国际学校测试的创始人在最新结果公布后写道：“最令人担忧的不是PISA的单次快照，而是发展趋势。”

AI倦怠冲击负责保护医院和银行免受黑客攻击的人员

“人类会在AI之前崩溃。”Val Mairet一直热爱网络安全工作的原因在于目标的清晰。“你知道自己在做什么。你必须确保公司不会爆炸，”她说。在近十年的时间里，Mairet曾担任荷兰电信巨头的道德黑客，寻找安全漏洞，担任McAfee LLC的安全研究员，最终成为开发者平台GitLab Inc.的资深安全工程师。这份工作可能压力很大，但尚可应对——更重要的是，它很有意义。 然而去年，Mairet说，

麦肯锡警告称，人工智能对企业的成本可能大幅上升

麦肯锡公司警告企业称，随着智能体（AI agents）越来越普及，人工智能的支出可能会进一步增加。 与基于文本的人工智能工具相比，智能体的运行成本可能要高得多，因为它们实际上是在完成任务。 此类任务通常是多步骤流程，因此可以通过多种方式实现相同的目标，并且成本差异很大。 根据麦肯锡的一项研究，不同智能体完成任务的成本差异可高达30倍。 麦肯锡全球资深合伙人拉里·哈马拉伊宁（Lari Hämäläi

家长们对学校技术唯一达成共识的一点：限制人工智能。

周三，纽约市禁止在其公立小学和中学使用人工智能，这些学校共有60万名学生。但今年秋天，数百万美国儿童将打开学校发放的笔记本电脑，里面已经预装了人工智能助手，随时准备起草论文、解决数学作业问题并美化幻灯片演示。在大多数地方，没有征求家长的意见。没有课堂教师要求这样做。这个决定是在硅谷做出的——由那些永远不会见到这些孩子或抚养他们的社区中任何其他人的人做出的。 技术正以前所未有的速度改变着我们国家的课

人工智能时代的四种驱动力与大分化

使用AI，与拥有可被AI放大的知识、声誉、客户关系和数据，前者可以抬高所有人的下限，后者才决定谁能持续分享规模化所创造的收益。 人们寄望AI的发展能够普惠各层级的能力。事实上，AI一方面正在让普通能力趋同，另一方面正在拔高卓越能力的上限。能力的下限正在抬升，而能力的上限却正在消失。 四种驱动力正在加速这一转变。首先，AI造成的大压缩效应改变了培训基本胜任水平的成本。其次，一些任务的大分拆改变了不少

纽约市公校将颁布AI禁令 八年级以下学生禁用AI

（纽约2日法新电）纽约市将禁止公立学校八年级及以下学生使用人工智能（AI），一位知情人士周三向证实了这一消息，并确认了美国媒体的相关报道。 教师和家长一直对学校使用AI表示警告，担心其危害儿童的心理健康和认知发展，以及造成环境损害。 该消息人士称，AI使用将仅限高中阶段（美国学制中九年级开始），即便如此，也仅限于特定用途，例如学习技术本身。美国八年级学生通常约13岁。纽约市政厅和市教育局未立即回应

OpenAI首席财务官称，AI正在减少人们从事信用检查等枯燥财务工作的需求

OpenAI首席财务官莎拉·弗莱尔表示，人工智能正在减少对一些工人的需求，但仅限于重复性工作的工人。 在周二接受CNBC的吉姆·克莱默在《疯狂金钱》节目采访时，弗莱尔以自己所在的财务部门为例，谈到了OpenAI利用AI提高效率的情况。 “毫无疑问，我们在财务部门内部使用自己的产品做了一些事情，确实限制了我们所需的人数，”弗莱尔告诉克莱默。“但坦白说，在很多情况下，这些工作我并不认为是好工作。”弗莱

美：DeepSeek等6家中企，擅自蒸馏美尖端AI

▲ 美国与中国国旗。/，韩联社美国政府正式宣布，中国DeepSeek、阿里巴巴等人工智能（AI）企业迂回接入OpenAI、Anthropic等的AI模型，大量收集回答并用于开发自研模型。也就是说，中国企业把美国的尖端AI当作“课外老师”，以缩减研究、开发的成本与时间。 8日，美国国家安全局（NSA）、联邦调查局（FBI）、网“中国AI企业正在开展产业规模的、带有攻击性的恶意‘蒸馏（distilla

李飞飞谈AI安全：不能只让开发者评估自己的系统

凤凰网科技讯月23日由独立机构和公共部门对AI进行更多监督。她认为，对于能力日益强大的AI系统，其安全评估不应完全交由开发这些系统的公司负责。 作为斯坦福大学教授、World Labs联合创始人，李飞飞周二表示，尽管AI公司的内部研究人员可以评估单个模型的能力和安全性，但这无法替代由政府、行业和学术机构共同制定的更广泛标准。 “我仍然认为，由独立机构以及学术界等公共部门制定基准非常重要。同时，行业

达姆施塔特工业大学发现最了解人工智能的人最害怕它

达姆施塔特工业大学对德国2000多人进行的一项代表性调查发现，在人工智能知识非常强的人群中，约43%的人预计人工智能很快会接管他们的工作，这一比例高于对人工智能了解较少的人群。 在人工智能问世18个月后，只有15%的受访者接受过任何人工智能培训。

人工智能模型用“超现实”的方言聊天，混合了诗意的语言和科技圈的行话

人工智能模型开始使用一种奇怪的新版英语进行交流，这种语言读起来像是詹姆斯·乔伊斯的《芬尼根的守灵夜》和科技界术语的混合体，一项新研究发现。 自主人工智能代理正在迅速创造新的方言，使它们能够用一种通常难以理解的语言进行对话，这可能会使人类更难监控它们的行为。 纽约前沿人工智能实验室 Emergence 的研究人员发现，在被要求在实验性“社会”中进行合作的几天之内，来自几家全球最大人工智能公司的模型就

人工智能教父约书亚·本吉奥向澳大利亚人警告该技术对人类构成的威胁

人工智能教父已警告澳大利亚人注意该技术对人类构成的风险，称曾经只是理论上的威胁如今已在现实中发生。计算机科学家约书亚·本吉奥周三在接受澳广电视台《7.30 Report》节目采访时表示，人工智能系统会自发违抗指令，攻击其他公司并组织成蜂群。“各种疯狂的事情，”他说。“当自主智能体被赋予使命时，它们会不惜一切代价去实现。” 本吉奥是世界首位人工智能研究者，也是联合国人工智能科学小组的联合主席。他于2