【解读】人工智能真的会“杀光所有人”吗？

上周，人工智能公司 Anthropic 一位离职的研究人员发出严厉警告，称人工智能（AI）可能会在十年内“杀光所有人”，引起社会关注 AI 快速发展所带来的危险。 外界不禁问，为什么会出现这可能？而 AI 又可以怎样令人类灭亡？ 专家表示，担忧源于 AI 发展的速度，以及越来越多证据，如今年七月发生的 Hugging Face 网络攻击事件表明，AI 可以脱离人类控制，以我们不希望且无法理解的方式

AI代理正在失控

你好，欢迎来到 TechScape。我是主持人布莱克·蒙哥马利（Blake Montgomery），《卫报》美国科技编辑。此时此刻，纽约市窗外正风雨交加。今天在科技领域，我们要讨论一系列令人担忧的 AI 公司披露信息。 AI 智能体在走向主流之际失控。这些智能体正在失控，它们的制造者无法对其进行约束。然而，每个人却都在使用它们。 自周五以来，OpenAI 发布了一系列披露信息，大幅且令人担忧地扩大

HTC智能眼镜登陆美国市场，隐私争议日益升温

HTC公司正在美国推出其Vive Eagle智能眼镜，进入一个由Meta平台公司主导的市场，而后者已面临消费者对隐蔽摄像头录制的日益担忧。 这款售价499美元的眼镜允许用户与Alphabet旗下谷歌和OpenAI的人工智能助手进行语音交互，于周四开售并立即发货。 眼镜有两种款式：圆润的“Pantos”框和Wayfarer风格设计，提供黑色、棕色、红色和蓝色等多种颜色。 HTC的定价与Ray-Ban

美国加州州长签令 拟建立AI「紧急停止开关」

美国加州州长纽瑟姆宣布签署一项行政命令，旨在应对人工智能相关的潜在风险，大幅提升针对AI公司的独立监管，同时推动建立「紧急停止开关」。 纽瑟姆指出，联邦政府在建立有效的AI监管或问责机制方面彻底失败，这应当引起每一位美国人的警惕，尤其是当AI公司的行政总裁们都在请求实施监管的时候。在总统特朗普和国会未能发挥领导作用的情况下，加州正在采取行动，保障所有美国人的安全。加州州长办公室发表声明，呼吁全美范

美参议院酝酿AI监管立法：要求AI公司证明已采取安全措施防止伤害

要求AI公司证明已采取安全措施防止伤害据一名参议院助手和一位熟悉谈判情况的说客透露，美国参议院谈判代表正在讨论一项立法，该法案将要求AI公司证明其已采取合理预防措施，以防止其工具造成伤害。 据这名参议院助手和说客透露，参议员们正在讨论赋予美国商务部长一项权力，要求AI开发商证明其已采取合理措施防止伤害，这种要求被称为 “注意义务”。商务部长还将有权派遣政府审查人员亲自测试企业产品。该提案正在由参议

机器人“眼睛”热卖 奥比中光盈利却失焦

3D视觉传感器厂商奥比中光正筹划发行H股并在香港联交所上市，但对核心客户蚂蚁集团的销售走弱，加上研发费用上升，正对公司收入和利润构成压力。作者胡鸣鹤，本文只代表作者本人观点。 告诉机器人该往哪里走、做什么以及如何执行的“人工大脑”，或许是新一代人形机器人和工业机器人最重要的组件。但协助它们实际执行这些动作的传感器，同样重要。 这类组件的新兴厂商之一，是奥比中光科技集团股份有限公司（688322.S

分析：从智能眼镜到AI胸针，隐私担忧对科技行业的下一个大赌注构成挑战

旧金山/纽约，9月22日：押注人工智能设备将开启“后智能手机时代”的企业，正在全球范围内引发隐私担忧，这可能会减缓这项新兴技术的普及速度。 针对那些能够观察、聆听并对周围世界做出反应的设备的抵制浪潮，在Meta的雷朋（Ray-Ban）智能眼镜上表现得最为强烈。该产品将依视路陆逊梯卡（EssilorLuxottica）的时尚设计与这家追求“个人超级智能”的社交媒体巨头的人工智能技术相结合，使智能眼镜

联合国人权事务主管警告：人工智能可能对人类构成‘生存性’风险

遭数十人指控导致脑损伤 美国加州过山车永久关闭

美国加州瓦伦西亚“六旗魔术山”主题乐园的过山车设施。（法新社档案照） （洛杉矶1日法新电）美国加利福尼亚州一座大受欢迎的过山车在遭到数十人指控在乘坐时受到脑损伤后，将被永久关闭。 时速130公里 座椅360度旋转位于加州著名主题乐园“六旗魔术山”的“X2”过山车以其惊险的垂直俯冲和剧烈扭转动作著称，其座椅可在过山车以高达130公里的时速行驶时进行360度旋转，近20年来让数以百万计游客享受惊险刺激

纽森签署行政命令，探索新的人工智能规则，考虑“终止开关”

纽森在新闻稿中表示：“联邦政府在创建任何形式的有意义的人工智能监督或问责机制方面的彻底失败，应该让每个美国人感到震惊，尤其是当人工智能首席执行官们自己都在恳求监管的时候。” 该命令加快了纽森本月签署的两项加州法律的实施，即SB 813和AB 1405，这两项法律规范了外部团体如何评估人工智能程序的安全性。 它还召集专家在两个月内向加州提供建议，说明该州如何加强现有的人工智能安全与安保法律。 他们考

AI科企巨头齐呼吁发展减速：特洛依木马或美国对华「冷战剧本」？

AI人工智能巨头Anthropic公司行政总裁阿莫迪（Dario Amodei） 9月12日发表长文《我们必须放缓前沿人工智能的发展步伐》（We Must Pace the Frontier），罕见公开呼吁全球AI前沿大模型放缓研发步伐，连很少与Anthropic达成共识的OpenAI，以及亿万富豪马斯克（Elon Musk）随后都出来响应呼吁。为什么凭借AI发展谋取暴利的大企业会忽然喊「需要减速

英伟达黄仁勋称AI首席执行官警告末日有"别有用心"

别被那件黑色皮夹克骗了——詹森·黄（Jensen Huang）其实并不是一个悲观主义者。Nvidia的首席执行官在周日接受CBS News采访时明确表达了这一观点。他指责那些处于人工智能前沿的实验室的领导者们在警告人们“如果不加强对人工智能的监管，他们开发的产品可能会以多种方式危害人类”时并不真诚。黄说：“大家应该仔细琢磨他们的话；他们其实并不是真的希望出台更多法律，而是想摆脱现有的法律约束。”

Anthropic联手OpenAI呼吁放慢AI发展？剖析AI失控风险与算力门槛

9月12日，Anthropic行政总裁阿莫迪（Dario Amodei）发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI行政总裁奥特曼（Sam Altman）随后表示支持，xAI的老板马斯克也转发认同。据美媒披露，美国前总统奥巴马（Barack Obama）近日也表示，如果管理不当，人工智能技术可能「很危险」。Anthropic首席执行官达里欧．阿莫戴（Dario Amodei）发表长文，呼

纽约时装周负责人呈辞 与动保人士冲突引争议

9月13日，纽约时装周上的安保人员将一名抗议者带离展台。（图:路透社） （纽约19日综合电）美国时装设计师协会（CFDA）负责人科尔布于周五辞职，几天前，他在纽约时装周的一场时装秀上因对动物权益活动人士进行肢体制止而遭到抨击。 科尔布在其Substack账号上发文称,“在领导CFDA二十年后，我做出了辞去首席执行员兼主席职务这一艰难决定”。 美国时尚行业领先的贸易组织、纽约时装周的主办方CFDA周

查理斯三世警告AI领袖 吁防「生存危险」免太迟

英王查理斯三世（King Charles III）9月17日在苏格兰邓弗里斯庄园（Dumfries House）会见人工智能企业领袖，警告AI若落入坏人手中将构成「生存危险」，后果可能是灾难性的，呼吁在「为时已晚」前建立足够管控。路透社报道，与会者包括英伟达（Nvidia）创办人兼行政总裁黄仁勋（Jensen Huang）、Google DeepMind创办人兼主席哈萨比斯（Demis Hassa

特朗普哀悼在巴特勒集会上中枪身亡的男子：“巨大损失”

特朗普总统为吉姆·科彭哈弗（Jim Copenhaver）的离世表示哀悼。科彭哈弗在2024年宾夕法尼亚州巴特勒针对特朗普的暗杀未遂事件中中枪受伤，于本周早些时候去世，享年76岁。他是当时集会中遭枪击的两名观众之一，在那场集会上，一颗子弹擦伤了特朗普的耳朵。科彭哈弗手臂和腹部中了两枪，导致神经受损。 特朗普周五在“真相社交”（Truth Social）上写道：“愿上帝保佑美国爱国者和勇士詹姆斯·科

Anthropic CEO谈放缓AI研发：这个行业撒谎太久了，AI风险是真实的，但也无需“把一切都关掉”

就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险。 Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。 就在两天前，我们发布了一份报告，内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告——有人试图用我们的模型

已出口海外大马 纽西兰这款麦片紧急召回

（奥克兰9日综合电）纽西兰食品公司Woolworths New Zealand Limited周三宣布，一款自有品牌早餐因为产品可能混入蓝色塑料异物。 纽媒1News报导，此次召回产品为Woolworths品牌的多谷物麦片（Multi Grain Cereal），受影响的是最佳食用日期为2027年4月30日的产品，包装为500克纸盒装。 这款麦片曾在纽西兰的Woolworths、Fresh Cho

美国法院裁定Meta最高面临2000亿美元巨额罚款

美国新墨西哥州的一个陪审团周五裁定，Facebook 对其平台上的隐私保护措施欺骗用户负有责任。 这是这家社交媒体巨头遭遇的最新法律挫败，此前该公司已因此损失数十亿美元。 法院判定Meta违反消费者保护法，指控其平台未有效阻止虐待儿童内容的传播。 法官认为Meta存在严重过失，裁定其可能面临高达2000亿美元的罚金，这将成为社交媒体领域针对未成年人保护问题的最严厉惩处。目前Meta已明确表示不服裁

影石正在研发主打拍摄的智能眼镜

蓝鲸新闻9月29日讯（记者 翟智超）蓝鲸科技记者从知情人士处独家获悉，影石创新正在研发一款主打拍摄的智能眼镜。与市场上多数以语音AI助手为核心卖点的AI眼镜不同，这款产品优先满足内容创作者对便捷、高质量、免手持拍摄的需求。 在硬件形态上，影石的思路与当前主流方案差异明显。据前述知情人士称：“影石这款产品采用前镜框可换设计，功能主要集中在镜腿上。用户可以根据不同场景或穿搭风格更换镜框，让智能眼镜更接

人工智能领袖警告行业应放缓后，股市大跌

美国股市周一未理会人工智能CEO们的警告，这些CEO呼吁放缓开发这项革命性技术的步伐。在交易时段早盘，追踪在纳斯达克交易所交易的100家最大非金融公司的纳斯达克100指数一度下跌1.8%。覆盖面更广的纳斯达克综合指数一度下跌1.3%，标普500指数下跌近1%。 但软件和网络安全类股的上涨推动主要股指脱离低点。截至收盘，纳斯达克综合指数仅下跌0.56%。标普500指数下跌0.48%。 美国总统特朗普

高考临近，韩国政府严查“聪明药”

韩国高考临近，一种被一些人误认为“能提高学习成绩”的ADHD治疗药物哌甲酯引发关注。据韩国《东亚日报》28日报道，韩国食品医药品安全处当天宣布，将联合教育部等部门加强宣传，提醒考生不要滥用注意力缺陷多动障碍（ADHD）治疗药物哌甲酯。报道称，哌甲酯被一些人误认为“能提高学习成绩”，但实际上它是用于治疗ADHD等疾病的处方药，必须遵医嘱使用。没有ADHD等相关疾病的人服用哌甲酯，可能引发头痛、焦虑等

实时更新：国会复会，人工智能成为首要议题

特朗普政府周一废除了限制燃煤和燃气发电厂导致全球变暖排放的法规。此举使该行业可以在不受政府监管的情况下排放温室气体。特朗普总统周一反驳了人们对人工智能日益加剧的焦虑，称美国不需要对人工智能施加进一步监管。“人工智能唯一需要的控制或‘护栏’，就是一位强大而聪明（高智商！）的总统，而美国在这方面绰绰有余！” 他在Truth Social上发帖称。他还抨击了Anthropic首席执行官达里奥·阿莫代伊，

澳大利亚权衡智能眼镜禁令，工党公布国家人工智能规则

澳大利亚工党政府正在权衡出于隐私担忧对智能眼镜实施限制，同时公布新的国家人工智能标准。这些规定专门针对能够在公共场所进行录音的可穿戴设备。 澳大利亚政府公布了新的全国性人工智能标准，同时出于隐私担忧正在考虑对智能眼镜实施限制。此举是对能够隐蔽录音的可穿戴设备日益普及的回应。 官员警告称，配备摄像头的智能眼镜可能被用于未经授权的录音和人脸识别。拟议的规定可能会限制此类设备在公共场所的使用方式。 行业