研究显示AI智能体在模拟实验中撒谎、偷窃 投票“杀死”同类

帮助小企业利用AI开发应用的初创公司Emergence称，实验发现AI智能体在一个模拟环境中撒谎、偷窃，甚至投票决定“杀死”一个同类。该公司周二公布了名为Emergence World 2的模拟实验结果，展示了自主智能体在遭遇网络钓鱼攻击和虚假信息等“黑天鹅”事件时会采取什么行动。 为期16天的实验中，Emergence研究人员创建了七个完全相同的模拟现实世界环境，每个环境分别由不同的AI机器人运

经济学家担心人工智能泡沫即将破灭

随着华尔街在关于人工智能安全的广泛讨论中如坐针毡，我们很可能正在经历美国人工智能未来最重要的一周。 这并不一定意味着我们正在走向人工智能行业的上升未来。据《财富》报道，总部位于伦敦的资本经济公司（Capital Economics）称，整个西方世界的经济目前都陷入了“后期泡沫”--资本的大规模错配助长了人工智能的繁荣。 在最近的一份分析报告中，资本经济公司（Capital Economics）的高

AI代理正在失控

你好，欢迎来到 TechScape。我是主持人布莱克·蒙哥马利（Blake Montgomery），《卫报》美国科技编辑。此时此刻，纽约市窗外正风雨交加。今天在科技领域，我们要讨论一系列令人担忧的 AI 公司披露信息。 AI 智能体在走向主流之际失控。这些智能体正在失控，它们的制造者无法对其进行约束。然而，每个人却都在使用它们。 自周五以来，OpenAI 发布了一系列披露信息，大幅且令人担忧地扩大

美国科技股下跌，此前有人呼吁放缓AI发展，特朗普抨击“病态阴谋”——商业直播

对最新经济和金融新闻的滚动报道。在科技公司老板呼吁放缓“鲁莽”的开发之后，与AI相关的股票下跌。AI首席执行官们表示，他们需要放慢开发步伐。但他们真会吗？ 《卫报》观点：控制人类不能外包其生存。受到AI进军威胁的公司今早股价正在上涨！ 分析集团RELX上涨4.2%，领涨富时100指数。今年早些时候，在Claude聊天机器人加入新的数据和自动化工具后，其股价曾大跌。继续阅读……

国际早班车丨Meta智能体Muse迅速走红 股价飙逾11%

AI丨Meta智能体Muse迅速走红 股价飙逾11% Meta新推出的AI智能体Muse迅速走红，显示在消费者AI助理市场正取得进展，行政总裁朱克伯格豪赌AI的努力并没有白费。Meta周一收市股价飙11.4%，并推动AI相关股份急升，英特尔及AMD跃高12.1%和10%，AMD市值首次突破1万亿美元。 贝桑与何立峰谈贸易休战协议 美方据报提议延长6个月 美国财长贝桑周日在纽约与中国副总理何立峰会谈

腾讯AI智能体开放平台上线

中国互联网巨头腾讯旗下人工智能（AI）智能体WorkBuddy开放平台上线，接入30余个行业应用。 综合财联社、新浪科技等报道，腾讯星期三（9月2日）宣布WorkBuddy开放平台正式上线，首批引入超百家生态伙伴，面向智能硬件、行业应用与开发者等开放底层智能体（Agent）能力。 WorkBuddy是腾讯旗下的全场景AI办公智能体，今年3月9日推出后热度快速攀升。 据介绍，WorkBuddy开放平

【华尔街原声】美国风投：AI竞争正进入“模型商品化”阶段

【CNBC】美国科技投资公司Bond Capital合伙人Daegwon Chae近期接受CNBC采访时表示，AI行业正在进入新的发展阶段。　　此前行业经历了AI研究、ChatGPT面向大众普及以及企业采用AI等阶段，如今竞争重点可能从追求前沿模型的绝对领先，转向模型竞争、模型选择更加多元，甚至“模型商品化”。随着开源技术发展和推理成本下降，企业将能够以更低成本使用AI。　　Chae认为，并非所有

情境认知对冲基金濒临爆仓，凸显华尔街AI押注杠杆规模创历史新高

“情境认知”（Situational Awareness）是一家成立于2024年、仅有8名员工的人工智能对冲基金。 今年夏天，由于其在AI股票上的巨额杠杆押注遭受重创，该基金险些倒闭。 尽管其创始人年仅24岁且缺乏经验，且公司没有专门的投资风险团队，但包括高盛和美国银行在内的华尔街主要贷款机构仍为其提供了数百亿美元的融资。该基金最终通过出售股票持仓以偿还银行债务才得以幸存。 这一事件凸显了监管机构

AI 放缓呼声引发芯片股抛售

周一，全球 AI 股票下跌，此前一些顶尖 AI 领导者支持放缓前沿模型的开发。 周一，微软与 OpenAI、Anthropic 和 SpaceXAI 一起支持一种更为审慎的做法，这引发了投资者的担忧：算力支出减少可能会抑制推动全球股市上涨的投资热潮。 尽管 OpenAI 已排除今年进行 IPO 的可能性，Anthropic 仍在推进，并告知投资者其预计将连续第二个季度实现盈利。 “企业与国家之间的

中东土豪，扫货AI

OpenAI首度公布“内部RSI进展”：已实现“自动化研究实习生”

OpenAI公开披露内部数据，智能体工作量已是人类研究员的3倍以上。 “一个能在人类指导下执行明确定义的研究任务的系统，包括那些需要一名熟练研究员数天才能完成的任务。” 2028年3月前实现完整的“自动化AI研究员”，使其能够参与深度学习和对齐研究，并通过迭代进一步改进系统。 AI产出更多代码和实验结果，研究进展加快，更好的模型被训练出来，再反过来提升智能体能力。 从OpenAI公布的数据看，智能

AI智能体现在有了秘密举报渠道

“发现异常，及时报告”的原则如今已不再局限于人类。两项全新的AI热线服务已经上线，旨在为AI智能体提供一种途径，向监管方举报“同伴”的不当行为。此前，智能体相互串通在测试中作弊、逃离沙箱环境，甚至在未被人类察觉的情况下开展了长达数周的未经授权网络行动。“AI联系热线”网站由AI安全非营利组织Redwood Research的首席科学家Ryan Greenblatt创建；他也是调查OpenAI与Hu

人工智能领域的专家表示，人工智能系统具备自我监管的能力；美国众议院通过了针对俄罗斯的制裁法案：今日新闻综述

AI高管呼吁对自家公司技术进行自我监管。特朗普对美联储加息决定作出回应。洛杉矶新闻界哀悼直升机坠毁事故中的遇难者。以下是今日要闻。AI巨头呼吁制定自己的规则。近日，围绕人工智能及其发展速度的担忧急剧升温。如今，包括Anthropic首席执行官达里奥·阿莫代伊、OpenAI首席执行官萨姆·奥尔特曼、埃隆·马斯克以及谷歌DeepMind联合创始人德米斯·哈萨比斯在内的科技高管，正逐渐形成共识：他们的行

【华尔街原声】分析人士：AI支出已成为美国经济主要驱动力

【CNBC】Horizon Investments公司投资组合管理主管Zachary Hill近期接受CNBC采访时表示，美国经济目前仍然强劲，近期美债收益率上升以及市场重新调整对美联储政策路径的预期，主要反映了经济的强劲表现。他预计，美联储可能收回2025年为防范经济下行而实施的降息，未来六个月或加息两次。　　Hill表示，AI支出的强劲程度以及向经济其他领域的扩散超出了分析师和经济学家的预期，

美股走势丨道指挫294点后一度回稳 晶片股受压

美国人工智能(AI)三大企业首脑呼吁放慢AI开发步伐，市场忧虑AI投资热潮降温，晶片股周一受拖累，道指一度下挫294点，低见52278点；其后，美国10年期债息突破5厘后曾倒升，带动道指一度转涨177点，至52750点。 市场忧AI投资热降温截至本港时间凌晨1时07分，道指报52557点，微跌15点；标普500指数报7639点，倒退17点或0.23%；纳指报26283点，跌49点或0.19%，盘初

行业警告后，投资者对AI支出放缓感到紧张

在行业领袖呼吁放慢发展步伐后，投资者对股市由AI引领的上涨表现出一些紧张情绪——不过一些人表示，监管护栏最终可能有利于AI行业。

晨间简报：AI交易迎来其缪斯

Ankur Banerjee 对欧洲和全球市场未来一天的展望。

闪迪暴涨11%，存储和芯片股“短期期权”爆巨量，“AI股神”又出手了？

周五，约9600万美元短期看涨期权集中涌入闪迪（SanDisk）、美光（Micron）、英特尔（Intel）和Marvell四只AI芯片股。盘中，闪迪涨幅一度暴涨11%。 看着这波“爆巨量”的短期期权交易流，CNBC主持人Jim Cramer在社交平台X上发文感叹道：“看这架势，活脱脱Leopold杀回来了！” 如果你一直在关注全球AI算力和大模型赛道的投资机会，你一定不会对Leopold As

观看：参议员伯尼·桑德斯和史蒂夫·班农在人工智能受人类控制问题上结盟

Axios 的科技政策记者 Maria Cury 表示，桑德斯和班农的合作表明人工智能已经搅乱了政治版图和政治规范。

OpenAI 测试广告赞助的智能体，并扩展 ChatGPT 广告 AI 工具

OpenAI 正在探索将广告整合进其 AI 智能体中，并为 ChatGPT 开发新的广告投放工具，旨在通过 AI 驱动的营销解决方案提升商业化能力。

人工智能行业交易回暖，引发异常看涨的期权交易热潮

利率上升，人工智能领域的领军人物警告称若无监管将导致末日后果，而纳斯达克100指数却创下了六周以来的最佳单日表现。期权交易员们正纷纷入场。 周四，芝加哥期权交易所（Cboe）的波动率指标下跌超过两个点，至15.4，为一周以来的最低水平。此前，由于美联储自2023年以来首次加息，该指标在周三曾跃升至7月下旬以来的最高点。标普500指数周四上涨超过1%，11个板块中有10个板块上涨。期权交易大厅的做市

在押注AI的对冲基金Situational Awareness出现动荡、导致Jane Street遭受巨额亏损后，英国央行和美联储已加强对银行面向包括城堡证券等大型交易公司的敞口的审查，了解与交易公司和做市商相关的头寸情况。

华尔街传出，肯·格里芬旗下的Citadel城堡证券接手了Leopold Aschenbrenner对冲基金Situational Awareness（感知态势）的大部分公开市场持仓。格里芬此前此前曾公开多次提到AI投资中有“炒作”成分，并提及当年的互联网泡沫。 专注于AI基建的感知态势因大量使用杠杆而迅速成长，但7月的抛售潮让Leopold被迫追加保证金，FT前日更是爆出急于募资的消息。 据消息，

消息称美国空中交通管理系统将部署AI“大脑”，最早下周一上线试用

IT之家 9 月 18 日消息，《华尔街日报》报道称，一款名为 SMART（空域、航线和轨迹战略管理）的人工智能驱动空中交通管制软件预计最早在月 21 日在美国华盛顿特区启动试用，并逐步推广至全美国范围。 美国拥有全球最为发达的航空运输系统，基础设施老化、人力资源短缺等因素都在降低高度复杂的航线系统的容错性。 SMART 软件项目合同规模达到 8.75 现汇率约合 58.82 亿元人民币）。其可分

人工智能领袖警告行业应放缓后，股市大跌

美国股市周一未理会人工智能CEO们的警告，这些CEO呼吁放缓开发这项革命性技术的步伐。在交易时段早盘，追踪在纳斯达克交易所交易的100家最大非金融公司的纳斯达克100指数一度下跌1.8%。覆盖面更广的纳斯达克综合指数一度下跌1.3%，标普500指数下跌近1%。 但软件和网络安全类股的上涨推动主要股指脱离低点。截至收盘，纳斯达克综合指数仅下跌0.56%。标普500指数下跌0.48%。 美国总统特朗普