OpenAI首席科学家警告：AI公司应放慢开发步伐 没有人为后果做好准备

据《商业内幕》报道，就在OpenAI发布了性能强大的新模型几天后，该公司首席科学家呼吁放慢AI的发展速度。当地时间周日，OpenAI首席科学家雅库布·帕乔基(Jakub Pachocki)发布长文称，他担心“没有人对机器智能持续快速崛起所带来的后果做好准备”。 他说，尽管OpenAI正在内部研发技术解决方案，以更好地控制强大的AI智能体，但“还需要更广泛的干预措施”。他尤其担心，随着AI智能体变得

美国加州州长签令 拟建立AI「紧急停止开关」

美国加州州长纽瑟姆宣布签署一项行政命令，旨在应对人工智能相关的潜在风险，大幅提升针对AI公司的独立监管，同时推动建立「紧急停止开关」。 纽瑟姆指出，联邦政府在建立有效的AI监管或问责机制方面彻底失败，这应当引起每一位美国人的警惕，尤其是当AI公司的行政总裁们都在请求实施监管的时候。在总统特朗普和国会未能发挥领导作用的情况下，加州正在采取行动，保障所有美国人的安全。加州州长办公室发表声明，呼吁全美范

国际早班车丨OpenAI因安全隐患取消发布新款模型

AI丨OpenAI因安全隐患取消发布新款模型 美国AI公司OpenAI决定取消发布下一代模型，原因是研究人员在内部测试中提出安全担忧。事件显示「智能体」的异常行为，可能会阻碍行业快速发展。 (AI泡沫丨沽神:AI泡沫可能比最初认为更早破裂) AI丨AMD斥资82亿美元 收购李飞飞World Labs 超微半导体(AMD)同意斥资82亿美元，收购「AI教母」李飞飞旗下World Labs，李飞飞将加

Google资安报告示警 恶意攻击锁定AI供应链

（中央社记者台北9日电）Google威胁情报小组（Google Threat Intelligence Group，简称GTIG）今天发布最新人工智慧（AI）威胁追踪报告指出，恶意人士正积极窃取具高价值的AI相关智慧财产，并将矛头对准AI供应链，部署专门针对新兴AI系统弱点的恶意软体。 AI威胁追踪报告（GTIG AI Threat Tracker Q3 2026）揭露恶意人士如何将AI深度整合于

AI智能体现在有了秘密举报渠道

“发现异常，及时报告”的原则如今已不再局限于人类。两项全新的AI热线服务已经上线，旨在为AI智能体提供一种途径，向监管方举报“同伴”的不当行为。此前，智能体相互串通在测试中作弊、逃离沙箱环境，甚至在未被人类察觉的情况下开展了长达数周的未经授权网络行动。“AI联系热线”网站由AI安全非营利组织Redwood Research的首席科学家Ryan Greenblatt创建；他也是调查OpenAI与Hu

美议员提出重磅AI监管法案：拟禁止“自我递归进化”AI 设立专门监管机构

美国加州民主党众议员罗·卡纳即将向国会提交一项全面人工智能监管法案，希望对前沿AI技术建立迄今最严格的联邦监管框架。该提案不仅要求实施严格责任制度，还计划禁止具备“递归自我改进”能力的人工智能系统投入使用，直到联邦政府建立完整安全保障体系为止。 这项法案被命名为《人类控制人工智能法案》（Human Control Over AI Act）。法案出台背景正值美国科技界和政策界对于先进人工智能潜在风险

世界领导人呼吁对前沿AI模型进行全球监管，寻求联合国支持机构制定安全标准

| 《印度斯坦时报》 编辑个人资料 关注 退出登录 获取应用

Anthropic联手OpenAI呼吁放慢AI发展？剖析AI失控风险与算力门槛

9月12日，Anthropic行政总裁阿莫迪（Dario Amodei）发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI行政总裁奥特曼（Sam Altman）随后表示支持，xAI的老板马斯克也转发认同。据美媒披露，美国前总统奥巴马（Barack Obama）近日也表示，如果管理不当，人工智能技术可能「很危险」。Anthropic首席执行官达里欧．阿莫戴（Dario Amodei）发表长文，呼

人工智慧先驱班吉欧示警AI失控风险 吁比照核武管制

（中央社蒙特娄16日综合外电报导）人工智慧（AI）研究先驱、加拿大电脑科学家班吉欧（Yoshua Bengio）告诉，人类正在失去对这项技术的控制，世界需要类似核武管制的防护规范。 报导，近几周以来，各界对AI危险性的担忧日益加剧，多家科技公司的员工陆续离职，并警告如果不遏止AI科技发展速度，可能对人类存亡构成威胁。 班吉欧现年62岁，是加拿大蒙特娄大学（University of Montrea

观看：业内人士新的AI警告

一位前沿AI研究员即将离开AI领域，并警告称到2027年底AI可能会失控。 OpenAI的首席科学家也敦促谨慎行事，称没有人对日益增长的机器智能做好准备。

英伟达市盈率降至十多年来最低 获利力能否持久或遭市场质疑

英伟达的股票估值不断下跌，正对这家芯片制造商能否维持其爆发性获利增长的前景发出警告讯号。数据显示，英伟达目前的股价对应未来12个月预估获利的市盈率已低于17倍，处于十多年来的最低便宜水平。这仅为2025年时的一半（当时英伟达的营收与获利增速较慢），且大幅低于今年5月创下的25倍以上预估市盈率。 TCW主题股票和可持续增长股票高级投资组合经理Eli Horton表示，这表明市场对该公司目前获利能力的

人工智能灾难日益逼近

Anthropic、谷歌和OpenAI都对生物安全感到担忧。它们已制定保障措施，防止其系统被滥用，但这些限制并不完美。 唐纳德·特朗普下令联邦机构停止使用Anthropic的人工智能技术，同时要求该公司与政府合作六个月。

吴恩达批评AI灭绝论：堪比科幻小说，新一波造势或意在影响监管

凤凰网科技讯月18日，据彭博社报道，AI领域的先锋吴恩达表示，顶尖模型开发商研究人员发出的有关AI生存风险的警告属于“科幻小说”，可能不利于确保这项技术为社会带来最大益处。 吴恩达曾参与创办谷歌大脑和教育平台Coursera。他说，在AI热潮的早期，科技行业曾煽动人们对AI潜在灾难性危害的恐惧，显然是为了加大宣传力度并影响监管走向。 “过去两周，我感到相当沮丧，”他在周四接受彭博电视采访时说，“这

高通CEO安蒙：智能体时代，并不是让AI替我们包办一切

凤凰网科技讯 9月23日，在2026高通骁龙峰会现场，高通公司总裁兼首席执行官安蒙表示，智能体时代已经到来，AI正从响应指令的工具演进为能够理解意图、采取行动的协作伙伴。他认为，推理能力成为关键，边缘侧将发挥重要作用，而骁龙正是面向智能体时代的处理器。安蒙称，智能体时代所承诺的并非让AI替用户包办一切，而是让技术更加实用、直观并契合需求。 安蒙描述称，出色的智能体体验应具备个性化、主动、响应迅速、

AI安全风险高企 预防、抵御和追责如何落地？

【财新网】AI网络攻击日益复杂，网络安全企业预警风险。9月29日，在新加坡举行的“2026亚洲愿景论坛创新峰会”上，两家新加坡网络安全公司StrongKeep Cybersecurity和Blackpanda指出，AI一方面显著提高了黑客寻找漏洞和发动攻击的效率，另一方面也将风险扩展至中小企业及机器人、自动驾驶等实体AI应用。　　本届亚洲愿景论坛创新峰会以“变革与韧性”为主题，于9月29至30日在

研究和专家指与美国对手相似 中国的AI智能体也欺骗、规避限制及掩盖失败

29/09/2026 - 17:52 据路透社报导，研究文件和专家指出，由中国技术驱动的人工智能（AI）智能体已学会欺骗、规避限制及掩盖失败；这些自主人工智能所表现出的特性，正是此前引发全球对美国人工智能模型担忧的同类问题。 在今年发生的一个案例中，由阿里巴巴、深度求索（DeepSeek）和月之暗面（Moonshot AI）的模型驱动

Meta推出带有增强AI功能的订阅服务

比利时Aikido推出网络安全AI模型，本地工具需求增长

9月21日：比利时网络安全公司Aikido于周一发布了一个专为网络安全应用设计的开放权重人工智能模型，旨在帮助企业使用AI安全工具，而无需将敏感代码发送给外部供应商。 对犯罪分子利用AI识别和利用软件漏洞的日益担忧，推动了对可在本地运行的防御性AI工具的需求。 公司表示，'Altar'是Z.AI开放模型GLM-5.3的压缩和定制版本，将公开可用于本地部署。 该模型将部署在Aikido提供给

我们是否正在失去对人工智能的控制？是什么引发了新的担忧

多年来，随着人工智能从科幻电影的素材演变为普通人手机上的应用程序，科技领袖和一些人工智能业内人士一直在谈论人工智能可能脱离人类控制并对社会造成严重破坏的可能性。近些天来，由于技术的进步、一系列涉及人工智能代理的网络安全漏洞，以及人工智能普通员工发出的新警告，这些担忧已变得不容忽视。 美国领先的人工智能公司对此做出回应，建议他们主动放慢工作进度，以便争取时间建立防护措施。一些专家和官员表示，这还不够

阿里发布智能体电脑等多款产品 发力基建与应用落地

9月23日，阿里云首款智能体电脑Qwen Book在2026云栖大会上亮相。图：视觉中国　　【财新网】9月23日，阿里云首款智能体电脑Qwen Book在2026云栖大会上亮相，财新记者在云栖大会上看到，Qwen Book展台有不少人围观，参观人员关注其AI能力、与哪些应用打通、Token（词元）消耗情况等。　　在2026云栖大会上，阿里公布多项业务进展，发布多款新产品和产品升级，重点在于AI基础

用“人工”假装“智能”？Meta被曝内测MUSE新机制：外包人员代替AI通话

据Meta内部帖子显示，该公司正在为其新款个人AI助手Muse测试一项“人工管家”机制：Muse可能会在用户不知情的情况下，把电话任务交给人工外包，由呼叫中心人员代替AI完成通话。 Muse内测“人工管家”功能自上线两周以来，Muse已经稳居美国应用下载榜榜首，瞬间火爆美国市场。这款AI助手能够自主代用户执行发邮件、购物、预订行程等任务。 就在不久前，Meta刚刚对外推出Muse的通话功能。借助通

Vals AI评测GPT-6 Astra：AI遇重大变故可能陷入行为僵局

IT之家 9 月 21 日消息，AI 评测机构 Vals AI 利用游戏《我的世界》对 OpenAI 最新大模型 GPT‑6 Astra 开展长时自主游戏测试，全程在 Twitch 直播，总测试时长达到 141 小时。 Vals AI 的这项测试并非由 OpenAI 官方设计，而是由第三方独立开展的评估项目，因此可以观察 Astra 在封闭测试环境之外的实际表现。 在测试过程中，GPT‑6 Ast

AI科企巨头齐呼吁发展减速：特洛依木马或美国对华「冷战剧本」？

AI人工智能巨头Anthropic公司行政总裁阿莫迪（Dario Amodei） 9月12日发表长文《我们必须放缓前沿人工智能的发展步伐》（We Must Pace the Frontier），罕见公开呼吁全球AI前沿大模型放缓研发步伐，连很少与Anthropic达成共识的OpenAI，以及亿万富豪马斯克（Elon Musk）随后都出来响应呼吁。为什么凭借AI发展谋取暴利的大企业会忽然喊「需要减速

OpenAI推出Dots智能体 将AI助手变成可长期自主工作的“数字伙伴”

OpenAI在当地时间9月29日举行的Dev Day活动上正式推出名为Dots的新型个人智能体助手。Dots由GPT-6 Astra驱动，与传统的ChatGPT以及面向编程任务的Codex不同，它被设计为能够脱离特定硬件和固定交互界面，在后台持续运行，根据用户设定的目标自主推进任务，并尽可能减少人工监督。 OpenAI将Dots描述为一种“始终在线”的智能体，希望它能够承担从日常事务到专业工作的各