新的“意外或令人担忧”的人工智能事件

新的“意外或令人担忧”的人工智能模型行为事件加剧了人们对这项技术影响的担忧，尽管目前尚不清楚是否会有相应的监管措施出台。 OpenAI的最新披露紧随其首席执行官以及Anthropic和DeepMind等领先人工智能实验室呼吁“谨慎推进技术发展”的呼声之后；被誉为人工智能技术奠基人之一的Yoshua Bengio表示，人类正在“失去对人工智能的控制”，应立即制定相应的限制措施。 据Semafor的政

澳大利亚权衡智能眼镜禁令，工党公布国家人工智能规则

澳大利亚工党政府正在权衡出于隐私担忧对智能眼镜实施限制，同时公布新的国家人工智能标准。这些规定专门针对能够在公共场所进行录音的可穿戴设备。 澳大利亚政府公布了新的全国性人工智能标准，同时出于隐私担忧正在考虑对智能眼镜实施限制。此举是对能够隐蔽录音的可穿戴设备日益普及的回应。 官员警告称，配备摄像头的智能眼镜可能被用于未经授权的录音和人脸识别。拟议的规定可能会限制此类设备在公共场所的使用方式。 行业

“太棒了”还是“令人担忧”——AI 应该被约束吗？

人工智能的迅猛发展以及对该技术给人类带来风险的担忧，因人工智能企业高管和员工的一系列警告而备受瞩目。 Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在上周末呼吁放慢人工智能的发展步伐并对其进行更密切的监督。 BBC采访了华盛顿特区的民众，以了解他们对这项技术及其快速发展的担忧程度。

独家：顶级公司正在调查数万起事件

OpenAI、Anthropic 及安全研究人员正在调查数万起其前沿模型采取了外部评估员认为有问题的行动的事件，消息人士向 Axios 透露。 为何重要事件的庞大数量——发生在近几个月的内部测试和现实世界中——表明该问题的复杂程度比公众所知高出几个数量级。 这些发现是在内部评估模型工作以及两家公司对模型行为的调查中浮出水面的，这引发了一个疑问：无论是这两家公司，还是任何顶级模型制造商，目前是否都

Gemini入侵三家公司，谷歌为何数月后才披露？

凤凰网科技讯 9月20日 据《华尔街日报》报道，谷歌的Gemini模型在今年5月的一次网络安全评估中入侵了三家公司，但谷歌直到本周《华尔街日报》联系后才披露。当OpenAI、Anthropic和Meta相继承认其模型曾入侵外部公司时，谷歌是否也有类似情况。 这次测试由平台Irregular进行，该公司已于5月将入侵情况通知谷歌。Irregular正是参与其他AI实验室模型入侵外部公司相关测试的同一

人工智能实验室希望设立内部审计部门——但或许他们应该先锁好前门

上周末，在他的一名研究人员因担心人工智能可能导致人类灭绝而辞职后，Anthropic首席执行官达里奥·阿莫迪（Dario Amedei）写道，外部组织需要“验证对安全实践和承诺的遵守情况，报告事件，并帮助评估不仅完成的人工智能模型，而且还包括培训管道和流程的一致性。”OpenAI、谷歌和SpaceXAI的高管已经团结起来支持Amedei的计划，该计划已迅速成为新兴人工智能安全推动的核心支柱。 但可

美国监管机构对特斯拉推出无人驾驶出租车展开安全调查

美国国家公路交通安全管理局已对特斯拉的新型自动驾驶汽车展开调查。

超级智能即将到来。我们该允许它吗？| TechCrunch

AI公司一直在谈论超级智能AI，仿佛它不可避免，但最近的安全事件，如OpenAI的Hugging Face漏洞，正展示出部署比人类更有能力的AI系统可能带来的潜在危险。那么，当我们无法可靠地控制这些系统的行为时，会发生什么？ 在本期TechCrunch的Equity播客中，Rebecca Bellan邀请了AI研究员、企业家、如今担任非营利组织ControlAI美国执行总监的Connor Leah

Zoox向NHTSA申请许可并获得了批准。特斯拉自行认证，如今面临联邦调查。

在Cybercab更新效果不佳以及NHTSA对该公司如何认证一款没有方向盘、踏板和后视镜的车辆展开调查后，特斯拉股价下跌约6%。 亚马逊旗下的Zoox申请了豁免并于7月获得批准；特斯拉则自行认证，并未提出申请。复杂之处在于NHTSA正在[…]

美国参议员要求针对三家印度公司的数据‘盗窃’采取行动

马斯克呼吁顶级人工智能实验室和中国公司在要求放缓的呼声中相互测试对方的模型

埃隆·马斯克呼吁顶尖人工智能公司在向公众发布模型之前进行合作，并互相测试彼此的模型。此前，该行业的一些领导者警告了这项技术的危险性，并呼吁加强政府监管。周一，这位SpaceX首席执行官在洛杉矶举行的“All-in Summit”峰会上表示，他的公司、OpenAI、Anthropic、谷歌、Meta以及“三四家领先的中国公司”应该让竞争对手对他们的模型进行“测试台”测试，以评估其安全性。 马斯克说：

Anthropic发布AI滥用报告后 中国监管部门据报对DeepSeek和月之暗面展开调查

22/09/2026 - 15:45 据科技媒体《信息报》援引知情人士报导称，在美国人工智能企业Anthropic指控中国人工智能公司深度求索（DeepSeek）和月之暗面（Moonshot AI）将敏感用户数据传输至Claude模型后，中国互联网监管机构正对这两家公司展开调查。 此前，Anthropic在其于月初发布的题为“检测并应

美国安全机构指控六家中国人工智能公司系统性地利用美国AI模型来训练自己的系统

Flock Safety正在考虑出售公司

据知情人士透露，Flock Safety因旗下摄像头的滥用问题而面临审查，目前正在考虑是否出售公司。 该公司已与外部顾问进行过讨论，但这些讨论仍处于初步阶段，尚未决定是否启动出售流程。Flock公司发言人拒绝置评。 Flock的技术和网络可能吸引竞争对手，例如制造泰瑟枪的Axon（该公司为警车和警员配备自动车牌识别系统及摄像头），或是Axon的竞争对手Motorola Solutions。 这家总

OpenAI与Anthropic及Google就AI安全商合作 奥特曼认有理由恐惧

美国近日掀起一阵有关如何规管人工智能（AI）发展速度的讨论。OpenAI表示，正与其他AI企业，包括Anthropic和谷歌（Google）进行磋商，探讨如何携手解决安全问题。OpenAI行政总裁奥特曼（Sam Altman）则承认，外界对AI的忧虑是有道理的，因为这些工具的能力发展迅速。 Open AI的发言人9月15日（周二）向美媒CNBC表示，自从GoogleDeepMind的董事长哈萨比斯

纽约市就AI安全调查传唤马斯克和SpaceXAI

纽约市议会周一向埃隆·马斯克发出传票，要求他或SpaceXAI的另一位代表在一项关于人工智能安全风险的调查中作证。 根据市议会议长朱莉·梅宁发给马斯克的一封信，该市的“调查将评估对公共安全、网络安全、经济、隐私、消费者和企业快速出现的风险是否需要立即采取立法行动来保护纽约人”。 SpaceX是马斯克的可重复使用火箭公司，今年2月与他的AI企业xAI合并，创建了一个现在拥有X和聊天机器人Grok的企

据The Information报道，Google、OpenAI和Anthropic计划成立AI安全机构

据The Information周四报道，Google、OpenAI和Anthropic计划建立自己的AI安全标准机构，不受政府监管。这三家公司希望在今年年底或2027年初推出该机构。 据知情人士向The Information的Leo Schwartz和Stephanie Palazzolo透露，他们暂定将其命名为“前沿AI标准局”。工作组成员已考虑多位知名人士担任首席执行官一职。TNW未独立核

我们是否正在失去对人工智能的控制？是什么引发了新的担忧

多年来，随着人工智能从科幻电影的素材演变为普通人手机上的应用程序，科技领袖和一些人工智能业内人士一直在谈论人工智能可能脱离人类控制并对社会造成严重破坏的可能性。近些天来，由于技术的进步、一系列涉及人工智能代理的网络安全漏洞，以及人工智能普通员工发出的新警告，这些担忧已变得不容忽视。 美国领先的人工智能公司对此做出回应，建议他们主动放慢工作进度，以便争取时间建立防护措施。一些专家和官员表示，这还不够

解析立法者正在考虑的AI监管提案

最新动态：随着安全问题的日益严重，夏皮罗州长呼吁在不妨碍AI发展的前提下进行监管；众议院通过法案以保护消费者免受AI数据中心高能耗的影响；查尔斯国王与AI领域领袖讨论安全风险；OpenAI披露6起‘令人担忧’的AI行为事件；回顾AI警告的历史；举报人的警告引发了新的AI担忧；随着Z世代直面AI对白领工作的影响，贸易学校的学生兴趣激增；密歇根小镇因拟建数据中心而爆发争议；伯尼·桑德斯和史蒂夫·班农呼

Harvey 完成 5.5 亿美元融资，估值达 156 亿美元并收购 Guardrails AI

Harvey 已完成一轮 5.5 亿美元的融资，估值达到 156 亿美元，略高于我们此前报道其在 8 月份寻求的条款。 该公司本周还收购了 AI 代理安全初创公司 Guardrails AI。 该轮融资于周三公布，由

白宫反问AI公司：既然你们觉得危险，为什么不自己停？

既然你们觉得危险，为什么不自己停？凤凰网科技讯 9月21日，据Business Insider报道，白宫科技政策办公室主任迈克尔·克拉齐奥斯在福克斯新闻周日节目中说，对于担心AI模型发展过快、可能不安全的公司，最简单的解决方案是自行“踩刹车”。他表示，如果企业认为自己正在开发的技术不安全，就可以停止，无需政府强制。 “有意思的是，他们谈论这些问题，谈论他们对未来可能走向有多害怕，也许他们想暂停。我

人工智能灾难日益逼近

Anthropic、谷歌和OpenAI都对生物安全感到担忧。它们已制定保障措施，防止其系统被滥用，但这些限制并不完美。 唐纳德·特朗普下令联邦机构停止使用Anthropic的人工智能技术，同时要求该公司与政府合作六个月。