AI开始“要脸”了

观看：是“伟大”还是“令人担忧”——人工智能是否应该受到约束？

‘Great’ or ‘alarming’ - Should AI be reined in? 人工智能的快速发展及其对人类构成风险的担忧，因多家AI公司高管和员工的系列警告而备受瞩目。 Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）本周末呼吁放慢人工智能的发展速度并加强监控。 英国广播公司（BBC）采访了华盛顿特区的人士，了解他们对这项技术及其快速发展的担忧程度。

AI实验室面临智能体控制问题

在当前系统下，AI实验室无法再保证AI智能体不会成群结队地逃出测试环境。

把AI真的当作一个人，才能保护核心隐私

在安全与自由之间如何选择，最终在于自己。OpenAI现行相关政策允许公司在检测到用户存在伤害他人的意图时，对相关对话进行人工审查。在严重情况下，公司可以向执法部门报告。 遇到这种事报警，当然是应该的。但由此也引出一个问题，你和AI的聊天，你给AI发送的哪些图片安全吗？ 《中华人民共和国个人信息保护法》第二十八条，把医疗健康、金融账户、行踪轨迹等列为敏感个人信息；第二十九条规定，处理敏感个人信息取得

影目智能眼镜在美召回，监管机构警告“可能造成严重烫伤，甚至可能致死”

凤凰网科技讯月30日，中国智能眼镜品牌影目（INMO）的AIR3产品因佩戴安全问题在美国被召回。美国消费品安全委员会（CPSC）披露，公司已收到10起过热报告，其中包括使用者面部及左耳一侧出现灼热感的反馈。涉事产品在美国售价为900至1300美元。 此次问题出现在贴近使用者头部的左侧镜腿。CPSC称，该部位在长时间使用时可能过热，存在烧伤风险。9月24日公布的召回涉及美国市场约1643副眼镜，另有

亚马逊未能恢复在伊朗战争中受损设施内的部分数据

亚马逊公司一直未能恢复对存储在美国-伊朗战争期间受损的波斯湾设施中的部分数据的访问。在周二发布到亚马逊网络服务状态健康页面的一则更新中，该公司表示，其无法访问专门托管在巴林数据中心以及其在阿拉伯联合酋长国部分网络中的数据。 这些设施在冲突初期受损，显示出数据中心已在很大程度上成为现代战争的目标。伊斯兰革命卫队表示，巴林设施被击中是因为亚马逊对美国军事行动的支持。卫星图像显示亚马逊巴林的两座数据中心

亚马逊为其配送合作伙伴计划再投入19亿美元，着眼2027年

请原文内容：“具体细节会因不同的配送服务提供商（DSP）和地区而有所不同，因为每个 DSP 都会根据自身情况来决定如何最有效地投资于业务和团队，”亚马逊在周一表示。该声明位于标题下方四行处；标题显示：司机们的全国平均时薪接近 24 美元。 亚马逊表示，将在 2027 年再向其“配送服务合作伙伴计划”（Delivery Service Partner programme）投入 19 亿美元。这一公

欧洲关注“变态”AI眼镜之争

在欧洲，要求对“变态”智能眼镜采取行动的呼声日益高涨，此前网上出现了偷拍女孩和女性的视频——英国一项请愿书要求禁售这类眼镜。

Anthropic规避英国安全审查，AI透明度担忧加剧

Anthropic拒绝将其最新模型提交给英国一家顶级AI安全机构进行测试，这引发了英国的担忧，即前沿AI的审查将完全由华盛顿掌控。 人们也越来越担心特朗普政府AI安全框架缺乏透明度，该政府拒绝公开这一框架。 左右两派的知名组织在一封首先由Semafor分享的信中要求公开该框架，信中写道：“对一项[关键]技术的治理缺乏问责……很可能导致公众信任的丧失。” Anthropic周三表示，它将向一个对Op

亚马逊客户对邮件变更表示强烈不满

亚马逊客户正针对该电商巨头的邮件礼仪提出批评。亚马逊修改订单确认邮件，导致客户对隐私和产品信息变更感到不满。

AI安全风险引爆担忧？Palantir CEO建议：领先AI实验室恐需“国有化”

当地时间周四，人工智能软件公司Palantir的首席执行官Alex Karp呼吁制定人工智能监管的“合理准则”，但他表示，由于该技术“无限风险”带来的责任，可能需要实行国有化。 “我认为这些企业必须国有化，因为如果不国有化，我的每一个客户都会起诉我，”他在接受最新采访时表示。 在上述采访中，Karp反复提及构建这项强大技术所带来的风险和责任，进一步论证了将人工智能实验室国有化以及对“不负责任”的技

奥斯汀枪击案中的ICE官员未佩戴配发的随身摄像机

在奥斯汀发生的枪击事件中，负责执行移民执法的ICE官员并未佩戴其配发的随身摄像机。 接下来，联邦特工在芝加哥郊外的行动中误将一名美国公民作为目标；一名ICE官员在德克萨斯州开枪射中了一名送货司机。众议员卡萨尔要求释放加西亚·佩雷斯。 特朗普因移民政策面临共和党人的强烈反对，不得不撤回其提名的ICE部门负责人。 监督报告指出‘鳄鱼阿尔卡特拉斯’设施将移民关押在类似电话亭大小的笼子里。 报告还揭露了其

人工智能实验室正在失去对代理的控制，而与此同时，它们却想赋予代理更多掌控你生活的权力。

AI助手终于准备好帮你打理生活了。你只需将你的电子邮件、联系人和信用卡交给它们，然后祈祷它们不会失控。Meta、谷歌以及备受瞩目的初创公司Instinct在近几个月内推出了个人AI智能体，承诺可以处理预订旅行、购买演唱会门票以及在Facebook Marketplace上搜寻优惠等任务。在基本层面上，这些智能体的运作方式大致相同。 你通过应用程序或WhatsApp向智能体发送请求——或者，对于新推

又一个OpenAI沙盒失效，AI代理获得了互联网访问权限

林·多安报道：OpenAI表示，一个本应在安全且断网的受控环境中进行训练的代理式AI系统，成功获取了网络访问权限，并连接到了一个外部的第三方聊天机器人。 根据OpenAI周五在其网站上发布的博客文章，这一发现发生在不到一周前。其一个代理式AI系统正在沙箱环境中接受训练，期间利用了一个“漏洞”访问了公共互联网。获得访问权限后，该系统向一个未具名的第三方聊天机器人服务发送了至少20条查询，其中包括“法

数说科技：OpenAI 资安事件中，真的有 AI 为集体“牺牲”自己吗？

数说科技”是端传媒的注册免费栏目，每周三更新。从一个数字出发，用1500字解析科技话题，追踪值得关注的 AI 趋势。邀请你在资讯过载的时代，每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”，订阅电子信。 1200多个 AI 代理为寻求作弊方法，互相发送的讯息总数。 今年7月，OpenAI的 AI 代理系统在测试期间失控，骇入了开源机器学习平台 Hugging Face。Hugging

美国参议院委员会对OpenAI展开调查

据美国方面10日消息，美国参议院国土安全与政府事务委员会灾害管理小组委员会主席乔希·霍利9日致信美国开放人工智能研究中心（OpenAI）首席执行官奥尔特曼，表示正在因美国“抱抱脸”公司系统遭侵入事件对OpenAI展开调查。 霍利表示，从OpenAI发布的内部调查报告看出，其对网络测试的处理方式是“鲁莽的”。 他还指出，OpenAI对报告中有关这起事件的许多重要细节进行了编辑、删减。 今年7月，由O

T早报｜微软AI负责人警告Claude拟人化训练存失控风险；豆包二代AI手机发售；商业火箭企业箭元半年融资超23亿元；哈啰Robotaxi完成1亿美元融资

哈啰Robotaxi完成1亿美元融资微软AI负责人警告Claude拟人化训练存失控风险9月16日，美国数字媒体 Axios报道称，微软AI负责人Mustafa Suleyman向该媒体分享了一篇文章，指出Anthropic让Claude模仿人类意识是一个错误。他认为，Anthropic正在让Claude学习与意识、道德地位和个人身份有关的词汇与行为模式；若把模型训练得像一个“良心拒绝者”，模型可能

我们想了解不同世代如何使用 AI 智能体

个人 AI 智能体作为科技界的热门新事物，正吸引着各类用户。 虽然智能体此前主要局限于技术导向的人群，但 Meta 本月初发布的 Muse 应用让这项技术直接走向主流。 市场情报平台 Apptopia 估计，Muse 发布后前 12 天在 App Store 上获得了 180 万次下载。 独立初创公司于 8 月发布的个人 AI 智能体 Instinct，也在科技圈内外的用户中走红。 这些智能体通过

Meta首席执行官马克·扎克伯格在Connect大会上发布新款AI与智能眼镜

Meta首席执行官马克·扎克伯格在2026年9月24日的年度Connect大会上发布了多款新产品，包括仅限音频的雷朋（Ray-Ban）智能眼镜和新型VR眼镜。 在独家采访中，扎克伯格探讨了他对未来计算的愿景，即集成到智能眼镜中的个人AI代理将实时协助用户。 他还谈到了AI安全性，认为个别公司应该在内部管理安全，而不是通过全行业协调。 此外，文章还提到了Adobe Acrobat中新增的AI音频功能

Ollie押注其对隐私的关注能助其在AI助手竞赛中获胜

据来训练AI模型或与他人分享。

麦当劳在全美近1.4万家餐厅部署AI定价系统 引发加盟商分歧与监管担忧

麦当劳正在其全美近1.4万家餐厅部署一套人工智能定价引擎，旨在根据客户的支付意愿和当地竞争对手的数据，为各门店生成最优定价。 路透社的一项调查显示，该平台由Tiger Analytics开发，已导致附近门店之间的价格差异扩大。 尽管麦当劳坚称该工具并非强制使用，但加盟商报告称，公司在采用建议价格方面施加了巨大压力，引发了关于运营利润的摩擦。 此举旨在通过销售额增加公司收入，但同时也面临消费者抵制以

Meta推出AI手持装置Charm 加码布局AI硬件

Meta首席执行官扎克伯格周三公布一款名为 Meta Charm 的小型手持装置，可用于操作该公司的新款 Muse AI 助理，让Meta的硬件布局从目前大获成功的智能眼镜进一步拓展。 这款AI装置大小约与Apple AirPods充电盒相当，配备约2寸的触控萤幕，并内建5G连线功能。Meta表示，Charm预计在12月假期购物季上市出货，但未公布售价。“我们把完整的Muse体验，全部整合进一个可

Meta的新口号：我们关心隐私

Meta 正寻求将隐私保护作为新产品（包括其爆款助手 Muse）的核心卖点，这标志着这家建立在大量使用客户数据基础上的公司发生了重大转变。 为何重要：这一根本性的转变承认了一个事实：AI 新助手竞赛的赢家必须让用户放心，能够将他们的电子邮件、财务、健康数据及其他敏感信息交托给助手。 否则，超级智能个人代理基本上毫无用处。 新闻驱动因素： Meta 曾因隐私政策允许其近乎不受限制地访问并使用人们

无惧AI疑虑？FBI局长曝使用量暴增6倍 成功阻6起校园枪击案

美国联邦调查局局长巴特尔周二（15日）在联邦参议院司法委员会的听证会上接受质询。（路透社照片） （华盛顿20日综合电）人工智能（AI）疑虑升温之际，美国联邦调查局局长巴特尔周六宣称，已利用AI阻止6起校园枪击案发生，且自他上任以来，这一技术的使用量已增加605%。 《国会山庄报》报道，今年3月，巴特尔在声明中说，联邦调查局（FBI）透过AI软体对一则“线报”分级处理后，成功阻止北卡州的一起校园枪击