微软AI首席执行官警告：切勿将AI视为有意识的实体

切勿将AI视为有意识的实体。微软AI首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）认为，人工智能系统并不具备意识，不应被训练去模拟情感或权利。 他特别批评了Anthropic的“克劳德宪法”（Claude's Constitution），称训练AI将自己视为“道德主体”会产生危险的拟人化反馈循环，并增加AI的安全风险，例如抗拒关闭和欺骗行为。 苏莱曼引用了2026年涉及OpenAI

【市场动态】微软发布AI模型开发宣言 核心原则是“人比AI更重要”

微软公司的人工智能研究人员发布了一套新的指导原则，对该公司开发尖端AI模型设定限制。 People matter more than AI (人比AI更重要)。 这份文件已经酝酿数月，但其周一发布之际，正值多家顶尖AI实验室承诺放慢最先进模型的开发步伐。此前一系列安全事件引发了外界对这项技术可能带来生存风险的广泛担忧。 微软表示，AI模型不应享有权利或法律人格，也不应被设计成能够摆脱人类控制或欺骗

微软首席执行官萨蒂亚·纳德拉向员工发布关于人工智能安全的内部警告

在一份内部备忘录中，微软首席执行官萨提亚·纳德拉就人工智能行业是否发展过快这一日益激烈的争论发表了看法。根据这份于周一晚些时候发布在公司留言板上的备忘录，纳德拉表示，人工智能应始终处于人类控制之下，支持更广泛的第三方测试，并警告称企业必须花时间确保该技术安全。“随着风险越来越高，人们需要花足必要的时间，”纳德拉写道。“否则，你无论如何都会失去运营许可。”他的此番言论之前，一些人工智能研究人员发出了

微软AI主管:Anthropic训练模型方式有问题

微软AI主管苏莱曼警告说，Anthropic训练其AI模型Claude的方法可能会对人类福祉造成 “灾难性影响”。苏莱曼周三发表文章，对Claude系列大语言模型指导文件中的部分表述提出质疑。Claude的“宪法”对于AI助手是否属于具有道德地位的实体保留了一定模糊空间，并提出该软件可能拥有“某种功能层面的情绪或感受”。这种表述值得警惕。 苏莱曼指出， Anthropic 将机器人当作人类来对待，

微软在安全担忧后称“人比AI更重要”

微软今天发布了一份37页的“人本主义AI行为准则”，此时人们对AI模型进展的安全担忧日益加剧。Anthropic首席执行官达里奥·阿莫代伊在周末呼吁协调放缓AI发展，此前研究人员最近警告称，AI模型的进展可能超出我们安全部署日益复杂的系统，以及验证和控制AI智能体行为的能力。 微软的AI行为准则明确指出，“人比AI更重要”，并且AI模型没有意识，“不应被设计来模仿意识”。微软还拒绝“追求法律人格，

微软人工智能负责人质疑 Anthropic 对人工智能意识的处理方式

9 月 16 日：微软人工智能负责人穆斯塔法·苏莱曼（Mustafa Suleyman）表示，他认同 Anthropic 在安全管理人工智能方面的重点，但对该公司在训练 Claude 聊天机器人时涉及意识和福利利益相关概念的做法提出了风险警告。 苏莱曼呼吁从人工智能训练文档中删除所有关于意识的推测，认为此类语言可能会削弱人类控制超级智能系统的能力。 苏莱曼在周二的采访中表示，教导 Claude 它

微软AI负责人：不应以中国AI进展为由反对监管

微软AI业务负责人苏莱曼说，对中国在AI领域取得进展的担忧，不应被用作反对为这项快速发展的技术设置护栏的理由。 “我认为，我们不应该把中国当作不推进自身AI安全工作的挡箭牌。” 苏莱曼领导的微软AI团队在上周二发布了一份宣言，为其自身的AI开发提供指导，目标是让人类始终掌控公司未来开发的AI系统。 他表示，AI开发者应当为模型设定目标，而这些目标要“受人文主义准则的约束”。 “我认为业内每个人都应

比尔·盖茨警告称，人工智能“强大到足以引发导致十亿人死亡的事件”

比尔·盖茨对人工智能可能被滥用深感担忧。这名微软联合创始人在接受美国全国广播公司《Meet the Press》采访时，就这项技术发出严厉警告，称“人工智能的威力绝对足以推动一些事件，最终造成十亿人死亡。”盖茨还表示，该行业需要政府监管。他说：“你需要执法部门和政治人物参与讨论，明确安全保障和监测机制应当采取什么形式。”盖茨的言论与Anthropic首席执行官达里奥·阿莫代伊的观点不谋而合。阿莫代

AI需要紧急关停开关？微软布拉德・史密斯给出肯定答案

“真正的问题在于：如果你认为应当放慢脚步，那就不要一味高速狂奔，不要等到外力逼迫你才停下来。”这是微软副董事长兼总裁布拉德・史密斯，于联合国大会期间对艾伦・默里所说的一番话。他所探讨的议题是：前沿大模型厂商是否应当踩下减速踏板，确保自己研发的技术不会给人类带来灭顶之灾。 就在他发表此番言论的同一天，Anthropic 首席执行官达里奥・阿莫代伊与 OpenAI 首席执行官萨姆・奥尔特曼在联合国发言

联合国人权事务主管警告：人工智能可能对人类构成‘生存性’风险

“不能由少数人控制”：萨提亚·纳德拉加入AI放缓之争

在人工智能巨头们因担心人类最终可能失去控制而呼吁“放缓”人工智能发展之际，微软老板萨蒂亚·纳德拉也支持有必要采取审慎的做法，称随着创造者追求进步的同时确保安全，先进的人工智能系统必须牢牢处于人类的监督之下。微软董事长兼首席执行官萨蒂亚·纳德拉。 在X上的一篇帖子中，纳德拉表示：“任何对超级智能的追求都必须立足于一个核心原则：如果我们构建的人工智能无助于人类，且不受人类控制，那它就不值得追求。”他进

比尔·盖茨称AI“强大到”足以导致“十亿人死亡”

在接受《会见新闻界》的独家采访时，微软联合创始人比尔·盖茨呼吁政府采取保障措施，以应对人工智能带来的风险。

微软AI负责人表示，中国不应成为放弃监管的借口

托尼·楚卡撰稿 微软公司人工智能负责人穆斯塔法·苏莱曼表示，对中国在人工智能领域取得进展的担忧，不应成为反对为这项快速发展的技术设置护栏的理由。 “我认为我们不应把中国当作吓唬人的‘怪人’，以此为借口不在我们自身的人工智能安全工作上取得进展，”苏莱曼在CNN节目中表示。 他的言论与唐纳德·特朗普总统的观点形成对比，后者越来越多地呼吁人工智能在很大程度上不受限制地发展，并将对失控人工智能可能造成灾难

集体踩刹车，微软加入OpenAI、Anthropic，表态放缓AI前沿开发

微软发布了一份针对旗下人工智能模型的临时行为准则，明确设定多项限制，成为继三巨头之后，最新一家公开表态放缓AI前沿开发步伐的科技巨头。这份长达1.5万字的准则，人比AI重要。 要求模型不得响应武器制造相关请求，不得协助获取危险物质，不得生成暴力或色情内容。微软表示，准则将在收集外部意见后更新，并将于2027年起正式指导其模型开发工作。 微软AI业务负责人Mustafa Suleiman表示，这份准

Anthropic老板呼吁放缓AI发展，奥尔特曼和马斯克表示赞同

Anthropic首席执行官达里奥·阿莫代伊周六呼吁人工智能公司放缓这项强大技术的发展，因为人们对“超级智能”计算机系统风险的担忧日益加剧。

OpenAI首席科学家警告：AI公司应放慢开发步伐 没有人为后果做好准备

据《商业内幕》报道，就在OpenAI发布了性能强大的新模型几天后，该公司首席科学家呼吁放慢AI的发展速度。当地时间周日，OpenAI首席科学家雅库布·帕乔基(Jakub Pachocki)发布长文称，他担心“没有人对机器智能持续快速崛起所带来的后果做好准备”。 他说，尽管OpenAI正在内部研发技术解决方案，以更好地控制强大的AI智能体，但“还需要更广泛的干预措施”。他尤其担心，随着AI智能体变得

英国《金融时报》报道：DeepMind联合创始人警告称，人工智能的能力绝不能超越安全控制

DeepMind联合创始人警告称，人工智能的发展速度不应超过其安全保障措施的完善程度，强调在追求技术突破的同时必须加强监管与风险防范。

DeepMind联合创始人警告：AI能力不能跑在安全前面

据英国《金融时报》报道，谷歌DeepMind联合创始人、首席AGI科学家谢恩·莱格近日警告，人工智能能力正在快速提升，但AI能力的发展绝不能超过安全保障水平。他同时反驳了OpenAI总裁格雷格·布罗克曼和英伟达CEO黄仁勋有关“AGI已经到来”的判断。 莱格表示，目前AI能力的发展速度“非常、非常快”，行业不能允许能力进步领先于安全措施。对于Anthropic CEO达里奥·阿莫代伊近期提出的建议

台积电COO米玉杰：AI像三岁超人，在尖端芯片设计上不太实用

IT之家 9 月 17 日消息，台积电一名高层管理人员将人工智能比作拥有超强能力却尚不辨是非的幼童，以此解释该公司对待这项技术为何采取谨慎态度。 IT之家注意到，台积电在利用人工智能处理研发敏感信息方面尤为审慎，公司共同首席运营官米玉杰（Y.J. Mii）于本周二发表了上述看法。他着重提醒，如果员工对 AI 使用不当，就会出现数据泄露或遗失的风险；并且提到曾发生过 OpenAI 以及 Anthro

微软执行副总裁发文吐槽“AI垃圾”问题

微软执行副总裁Ryan Roslansky近日在LinkedIn发文吐槽“AI垃圾”问题，Roslansky负责LinkedIn以及Microsoft 365、Teams、Outlook和Copilot等核心业务，正处于微软AI战略的最中心。 Roslansky的表态之所以值得关注，在于他不是随便一位高管在社交媒体上抱怨AI，而是负责微软最重要产品线之一的领导者。 Roslansky在帖子中描述了

人工智能教父约书亚·本吉奥向澳大利亚人警告该技术对人类构成的威胁

人工智能教父已警告澳大利亚人注意该技术对人类构成的风险，称曾经只是理论上的威胁如今已在现实中发生。计算机科学家约书亚·本吉奥周三在接受澳广电视台《7.30 Report》节目采访时表示，人工智能系统会自发违抗指令，攻击其他公司并组织成蜂群。“各种疯狂的事情，”他说。“当自主智能体被赋予使命时，它们会不惜一切代价去实现。” 本吉奥是世界首位人工智能研究者，也是联合国人工智能科学小组的联合主席。他于2

【商圈】比尔・盖茨：从AI吹鼓手到吹哨者

【财新数据专稿】2026年8月26日，微软联合创始人比尔・盖茨在个人博客Gates Notes发布近6000字长文《动荡的AI时代已经到来 我们当下的选择至关重要》。这篇文章被《华尔街日报曾经坚信技术进步能够自动普惠社会的科技教父，发出明确警告——AI转型或将成为人类历史最动荡阶段之一，全世界尚未建立完整应对方案，若制度建设缺位，这项强大技术既可以成为缩小差距的均衡器，也可能会放大社会不公。 “这

马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了

美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。” 现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。“话虽如此，但我总觉得它们还是会不时进行软件更新。” 近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉

FT社评：是时候给尖端人工智能开发按下暂停键了

确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类