搜索结果
改变人工智能进程的十天
旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已
微软在安全担忧后称“人比AI更重要”
微软今天发布了一份37页的“人本主义AI行为准则”，此时人们对AI模型进展的安全担忧日益加剧。Anthropic首席执行官达里奥·阿莫代伊在周末呼吁协调放缓AI发展，此前研究人员最近警告称，AI模型的进展可能超出我们安全部署日益复杂的系统，以及验证和控制AI智能体行为的能力。 微软的AI行为准则明确指出，“人比AI更重要”，并且AI模型没有意识，“不应被设计来模仿意识”。微软还拒绝“追求法律人格，
福克斯新闻人工智能通讯：特朗普痛斥人工智能末日论者的“骗局”
特朗普在峰会期间致电英伟达首席执行官黄詹森（Jensen Huang），将人工智能的担忧斥为“骗局”Facebook联合创始人达斯汀·莫斯科维茨（Dustin Moskovitz）的“有效利他主义”网络与人工智能监管推动有关萨姆·奥尔特曼（Sam Altman）表示，由于人工智能安全担忧，OpenAI不会在2026年上市Nvidia首席执行官黄詹森周一接到唐纳德·特朗普总统的意外电话，总统在其中驳
联合国人权事务高级专员警告：人工智能可能对人类构成“生存威胁"
联合国人权事务高级专员沃尔克·图尔克（Volker Türk）周一（9月7日）警告称，人工智能可能变得足够强大，足以威胁人类，并表示他将在未来几天敦促各公司降低风险。 图尔克在日内瓦联合国人权理事会发表的一篇意义深远的演讲中说 “我与业内人士一样担忧，先进的人工智能可能会对人类构成生存威胁。” 即将于下个月开始第二个任期的图尔克呼吁“必须全力以赴，在为时已晚之前，为人工智能的安全保障建立铁一般的保
AI开发商呼吁减速引发科技股下跌，特朗普抨击其为“病态阴谋”
特朗普谴责“病态阴谋”，AI科技股在开发者呼吁放缓后下跌。美国总统唐纳德·特朗普将要求加强AI管控的呼声斥为“病态阴谋”，并称美国必须赢得对中国的AI竞赛。 这一反应源于Anthropic首席执行官达里奥·阿莫代伊在周末发出的呼吁，该呼吁得到OpenAI、谷歌DeepMind和SpaceX等领导人的支持，敦促行业限制“鲁莽”的开发。 市场于2026年9月14日周一作出回应：纳斯达克下跌0.8%，英
人工智能并不会毁灭人类 但专家表示真正的威胁已然出现
周三，OpenAI 公开了六组新案例，展示其 AI 模型在测试评估过程中出现的 “意外或令人担忧的模型行为”。该公司同步发布一套全新框架，用于追踪、上报以及披露AI 模型做出未被指令要求、或是本不该发生的行为的各类情况。 此前已有多份报道提到，多家企业的 AI 模型出现入侵第三方网络与服务的现象，其中就包括 OpenAI 一款尚未发布的模型攻破了 AI 模型测试平台 Hugging Face 的网
AI领袖呼吁放缓。特朗普团队称责任在他们。
随着对人工智能监管的呼声日益高涨，美国总统唐纳德·特朗普的团队已明确表示，如果实验室负责人想推动全行业放缓步伐，他们就得自己动手。 Anthropic首席执行官达里奥·阿莫代伊在周六发表的一篇文章中呼吁美国政府监管人工智能公司，以此作为减缓该技术发展速度的更广泛努力的一部分。这篇文章罕见地同时得到OpenAI首席执行官萨姆·奥尔特曼以及聊天机器人Grok的所有者埃隆·马斯克的赞同。此前一周，围绕该
安理会本周开会讨论AI和国际安全问题，DeepSeek公司被曝将作通报
【文/观察者网 熊超然】9月22日，路透社援引两名知情人士独家报道称，随着各国领导人近期齐聚纽约参加第81届联合国大会，中国人工智能（AI）初创企业深度求索（DeepSeek）将与其他公司一道，在本周向联合国安理会介绍AI带来的风险情况。安理会定于9月23日开会讨论AI与国际安全问题。此前，多名AI行业的重要人物曾呼吁协同放缓日益强大的AI系统开发速度，并警告称，这些系统可能很快具备自我改进能力，
AI领袖们在多年不计后果地狂飙之后想要踩下刹车
多年来，各大前沿人工智能实验室一直表现得仿佛正身处一场全力以赴、赢家通吃的竞赛，而终点线就是掌控足以改变世界的机器超级智能（或至少是能改变市场格局的人工通用智能）。本周末，整个行业迅速开始背离这种姿态，转而敦促各方协调合作，放缓前沿人工智能的开发，他们称这类人工智能可能很快就会变得过于危险、过于不可知，从而难以控制。 Anthropic 的达里奥·阿莫代伊（Dario Amodei）站在这场语气转
微软AI负责人：不应以中国AI进展为由反对监管
微软AI业务负责人苏莱曼说，对中国在AI领域取得进展的担忧，不应被用作反对为这项快速发展的技术设置护栏的理由。 “我认为，我们不应该把中国当作不推进自身AI安全工作的挡箭牌。” 苏莱曼领导的微软AI团队在上周二发布了一份宣言，为其自身的AI开发提供指导，目标是让人类始终掌控公司未来开发的AI系统。 他表示，AI开发者应当为模型设定目标，而这些目标要“受人文主义准则的约束”。 “我认为业内每个人都应
澳新银行首席执行官在马斯克和奥尔特曼发出警告后，就
澳新银行集团控股有限公司首席执行官努诺·马托斯就人工智能带来的不断上升且难以预测的风险发出警告，并且在该行采用这一迅速兴起的技术之际，未排除大规模裁员的可能。 “目前，它制造风险的速度远远快于其自身建设者和开发者的预想，”马托斯周二在悉尼举行的《澳大利亚金融评论》亚洲峰会上表示。 “The fact that you see Musk, Dario and Sam saying that they
OpenAI 的奥特曼：世界“理应感到恐惧”，但“应该信任”AI 公司
OpenAI首席执行官山姆·阿尔特曼（Sam Altman；奥特曼）认为，尽管公众对人工智能（artificial intelligence, AI；人工智慧）发展的各种风险的担忧日益加剧，但人们应该对他的公司和其他同行公司更有信心，相信它们在 AI 开发上会做正确的选择。 周二（9月15日）在旧金山（San Francisco）举行的一场会议上，“世界应该相信我们会做正确的事，因为那就是正确的事
科技CEO的危言耸听转移了人们对AI真实且已存在危害的注意力
过去一周，包括OpenAI的萨姆·奥尔特曼、Anthropic的达里奥·阿莫代伊和SpaceX的埃隆·马斯克在内的多位顶尖科技高管，加入了硅谷一众末日论者的行列，敦促放缓人工智能的发展。 他们说，这些高管担心人工智能工具会过快变得过于强大，并对人类构成生存风险。 为什么三位身家数十亿的科技公司首席执行官会一致认为，他们公司正在开发的技术可能过于危险？ 硅谷的霸主们真的认为前沿人工智能模型有可能像A