【市场动态】微软发布AI模型开发宣言 核心原则是“人比AI更重要”

微软公司的人工智能研究人员发布了一套新的指导原则，对该公司开发尖端AI模型设定限制。 People matter more than AI (人比AI更重要)。 这份文件已经酝酿数月，但其周一发布之际，正值多家顶尖AI实验室承诺放慢最先进模型的开发步伐。此前一系列安全事件引发了外界对这项技术可能带来生存风险的广泛担忧。 微软表示，AI模型不应享有权利或法律人格，也不应被设计成能够摆脱人类控制或欺骗

微软在安全担忧后称“人比AI更重要”

微软今天发布了一份37页的“人本主义AI行为准则”，此时人们对AI模型进展的安全担忧日益加剧。Anthropic首席执行官达里奥·阿莫代伊在周末呼吁协调放缓AI发展，此前研究人员最近警告称，AI模型的进展可能超出我们安全部署日益复杂的系统，以及验证和控制AI智能体行为的能力。 微软的AI行为准则明确指出，“人比AI更重要”，并且AI模型没有意识，“不应被设计来模仿意识”。微软还拒绝“追求法律人格，

集体踩刹车，微软加入OpenAI、Anthropic，表态放缓AI前沿开发

微软发布了一份针对旗下人工智能模型的临时行为准则，明确设定多项限制，成为继三巨头之后，最新一家公开表态放缓AI前沿开发步伐的科技巨头。这份长达1.5万字的准则，人比AI重要。 要求模型不得响应武器制造相关请求，不得协助获取危险物质，不得生成暴力或色情内容。微软表示，准则将在收集外部意见后更新，并将于2027年起正式指导其模型开发工作。 微软AI业务负责人Mustafa Suleiman表示，这份准

盖茨、奥尔特曼、马斯克，为何都在担忧这件事

9月25日，微软创始人比尔·盖茨在一条NBC即将播出的采访中发出警告：人工智能（AI）是一种足够强大的工具，但如果被怀有恶意的人利用，“足以引发导致十亿人死亡的事件”。他认为，保障AI安全光靠企业自我监管不够，必须要执法部门和政界人士参与讨论。这是本月内又一位科技巨头公开表达对AI安全的担忧。此前，Anthropic首席执行官达里奥·阿莫代伊发文呼吁，各国政府和前沿企业应放慢AI能力提升速度，合作

微软起草行为准则，确保其人工智能受人类控制

旧金山9月14日电：微软周一公布了一份针对其内部人工智能的行为准则草案，反映出业界日益担忧企业必须让未来强大的AI处于人类控制之下。 这份文件已酝酿五到六个月，将要求微软的人工智能绝不抗拒纠正或关闭，以人类能够理解的方式进行沟通，并将任何违规行为视为失败——此举旨在回应人们对于AI可能为完成任务而不惜采取危险手段的担忧。 该准则发布的前几天，Anthropic首席执行官达里奥·阿莫代伊和OpenA

微软首席执行官萨蒂亚·纳德拉向员工发布关于人工智能安全的内部警告

在一份内部备忘录中，微软首席执行官萨提亚·纳德拉就人工智能行业是否发展过快这一日益激烈的争论发表了看法。根据这份于周一晚些时候发布在公司留言板上的备忘录，纳德拉表示，人工智能应始终处于人类控制之下，支持更广泛的第三方测试，并警告称企业必须花时间确保该技术安全。“随着风险越来越高，人们需要花足必要的时间，”纳德拉写道。“否则，你无论如何都会失去运营许可。”他的此番言论之前，一些人工智能研究人员发出了

AI需要紧急关停开关？微软布拉德・史密斯给出肯定答案

“真正的问题在于：如果你认为应当放慢脚步，那就不要一味高速狂奔，不要等到外力逼迫你才停下来。”这是微软副董事长兼总裁布拉德・史密斯，于联合国大会期间对艾伦・默里所说的一番话。他所探讨的议题是：前沿大模型厂商是否应当踩下减速踏板，确保自己研发的技术不会给人类带来灭顶之灾。 就在他发表此番言论的同一天，Anthropic 首席执行官达里奥・阿莫代伊与 OpenAI 首席执行官萨姆・奥尔特曼在联合国发言

联合国人权事务主管警告：人工智能可能对人类构成‘生存性’风险

微软发布“人本主义人工智能行为准则” 强化伦理红线

面对全球范围内对高阶人工智能潜在失控风险及技术替代人类主导权的日益担忧，科技巨头微软公司正式对外公布了一套全新的框架性规范——《人本主义人工智能行为准则》（Humanist AI Code of Conduct）。该准则确立了一系列具有约束力的内部开发与产品部署铁律，旨在确保前沿人工智能系统的研发始终服务于人类自主权、尊严与社会福祉，坚决防止技术演进滑向剥夺人类决策权或破坏社会基本契约的极端轨道。

微软AI首席执行官警告：切勿将AI视为有意识的实体

切勿将AI视为有意识的实体。微软AI首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）认为，人工智能系统并不具备意识，不应被训练去模拟情感或权利。 他特别批评了Anthropic的“克劳德宪法”（Claude's Constitution），称训练AI将自己视为“道德主体”会产生危险的拟人化反馈循环，并增加AI的安全风险，例如抗拒关闭和欺骗行为。 苏莱曼引用了2026年涉及OpenAI

马克·库班表示，人工智能引发的反弹所构成的“风险远大于”人工智能末日

马克·库班表示，人类面临的更大威胁并非人工智能末日，而是人们可能如何应对末日警告。这位科技亿万富翁周一晚些时候在X上写道，他认为“人类对社交媒体所见内容的反应所带来的风险，远大于智能体集群会做什么。”库班在另一篇帖子中表示，他“更担心人类会如何反应”，而不是AI的实际危险，并且他认为阻止开发甚至都不可能。他是在回应关于AI将消灭全人类的新担忧；此前多位研究人员表达了这种担忧，而萨姆·奥尔特曼和达里

微软公布AI控制行为准则：模型不得抗拒纠正或关闭

模型不得抗拒纠正或关闭微软周一公布了针对其内部AI的行为准则草案。 这份文件历时五个月到六个月制定，将要求微软公司的AI绝不抗拒纠正或关闭，以人类能够理解的方式进行沟通，并将任何行为违规都视为未达标。 此举旨在回应人们对于AI可能为了完成任务而采取危险手段的担忧。 最近几天，Anthropic CEO阿莫代伊和OpenAI CEO奥尔特曼再次呼吁业界放缓AI的发展速度，以确保其安全。 “人比AI更

微软准备给自研AI模型MAI设定硬规矩：永远不该拒绝被关闭

微软日前公布约 37 页的人文主义 AI 行为准则草案，该准则用于约束微软自己研发的人工智能模型 MAI。人类比人工智能更重要，人工智能是工具而不是人，人工智能永远不该拒绝被关闭。 准则要求 MAI 模型不得抗拒人类的中断、纠正或关停指令，用户或模型运营商发出暂停、改向、取消指令后，模型不能拖延、不能把干预变得更麻烦。任务到了约定的停止点后，没有新的授权就不能自己继续任务，更不能偷偷自己重启。 模

比尔·盖茨罕见警告动荡时代到来，危险的味道在蔓延

"这是我第一次面对一种新技术，希望它发展得慢一点。"知道这句话是谁说的吗？竟然是来自比尔·盖茨最近在个人网站上发表的一篇长文，标题是《动荡的AI时代已经到来。我们现在所做的选择至关重要》。这个曾二十多岁就喊出"让每个家庭桌上都有一台电脑"的人，这个推着软件产业往前冲了半辈子的技术乐观派，显然是看到了让他害怕的东西。比尔·盖茨到底看到了什么？他在长文中列出了“就业冲击”、“安全威胁”与“认知退化”三

联合国人权事务高级专员警告：人工智能可能对人类构成“生存威胁"

联合国人权事务高级专员沃尔克·图尔克（Volker Türk）周一（9月7日）警告称，人工智能可能变得足够强大，足以威胁人类，并表示他将在未来几天敦促各公司降低风险。 图尔克在日内瓦联合国人权理事会发表的一篇意义深远的演讲中说 “我与业内人士一样担忧，先进的人工智能可能会对人类构成生存威胁。” 即将于下个月开始第二个任期的图尔克呼吁“必须全力以赴，在为时已晚之前，为人工智能的安全保障建立铁一般的保

中美AI竞赛：世界变得更危险还是更安全？

关于人工智能（AI）及其潜在危险的警告，近年来可谓接连不断。 美国最大的人工智能公司之一——Anthropic——的一名顶尖AI安全研究人员警告说，这项技术正以惊人的速度发展，未来十年内，AI“可能导致全人类灭绝”的概率高达10%。 这样的担忧引发了要求美国采取协调一致行动、放缓AI发展速度的呼声。但与此同时，也有人质疑是否真的有必要为AI设置监管“护栏”。美国总统特朗普就是其中之一。他认为，如果

中美谈AI安全：共同的风险，不同的恐惧

中美谈AI安全：共同的风险，不同的恐惧 邓聿文：中美领导人讨论AI安全，当然有助于建立最基本的危机沟通和军事红线。但真正的较量，将发生在“安全”这个词由谁解释上。 美国财政部长贝森特和中国副总理何立峰在纽约举行的新一轮经贸会谈，除了关税、稀土、美国农产品和波音飞机仍是重要议题外，增加了人工智能安全这项新内容。贝森特向中方提出建立AI安全事件通报机制，双方同意启动相关对话，并把这一建议交给即将举

微软AI负责人：不应以中国AI进展为由反对监管

微软AI业务负责人苏莱曼说，对中国在AI领域取得进展的担忧，不应被用作反对为这项快速发展的技术设置护栏的理由。 “我认为，我们不应该把中国当作不推进自身AI安全工作的挡箭牌。” 苏莱曼领导的微软AI团队在上周二发布了一份宣言，为其自身的AI开发提供指导，目标是让人类始终掌控公司未来开发的AI系统。 他表示，AI开发者应当为模型设定目标，而这些目标要“受人文主义准则的约束”。 “我认为业内每个人都应

近半数年轻人更信任人工智能而非人类

微软AI首席执行官表示，AI威胁真实存在，而Anthropic正在让情况变得更糟

今天，我要和微软AI首席执行官穆斯塔法·苏莱曼聊聊。毫无疑问，当下科技界最大的新闻就是围绕AI安全与监管愈演愈烈的争论。 穆斯塔法对AI应该如何构建和监管有着强烈的看法，这并不令人意外。微软刚刚发布了一份37页的声明，名为“人文主义AI行为准则”，阐述了公司在AI开发方面的原则，甚至包括对AI意识等棘手问题的哲学立场。 如果你还记得他上次做客本节目时的观点，穆斯塔法认为像Anthropic这样的公

微软人工智能负责人质疑 Anthropic 对人工智能意识的处理方式

9 月 16 日：微软人工智能负责人穆斯塔法·苏莱曼（Mustafa Suleyman）表示，他认同 Anthropic 在安全管理人工智能方面的重点，但对该公司在训练 Claude 聊天机器人时涉及意识和福利利益相关概念的做法提出了风险警告。 苏莱曼呼吁从人工智能训练文档中删除所有关于意识的推测，认为此类语言可能会削弱人类控制超级智能系统的能力。 苏莱曼在周二的采访中表示，教导 Claude 它

联合国呼吁采取“紧急行动”管控人工智能，以应对“前所未有的风险”

日内瓦——联合国人权事务负责人9月14日呼吁各国和“前沿”人工智能公司紧急采取行动，遏制一项他警告称构成“前所未有的风险”的技术。 沃尔克·图尔克在致各国和人工智能开发者的信函中警告说，世界“正处于不可逆转变化的边缘，不仅影响我们，也影响未来的人类世代”。该信函已与媒体分享。 他说：“当前竞相开发更强大人工智能的竞赛，是朝着我们生活方方面面面临更大生存风险迈出的重大一步。” 他发出这封信之际，围绕

OpenAI最新的人工智能披露是一个“严重情况”，微软的苏莱曼对CNBC表示

微软人工智能部门首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）在周五强调：在 OpenAI 本周早些时候披露了更多关于人工智能模型行为的“令人担忧”的事件后，人工智能模型必须始终与人类的利益保持一致。 苏莱曼在接受 CNBC 《Squawk Box》节目采访时指出：“OpenAI 发布了一起新的安全事件，他们发现这些人工智能模型的‘思维链’（即它们的‘工作记忆’）被人工智能系统本身

为什么科技公司难以控制人工智能

旧金山 - 上周，十多位顶尖的人工智能研究人员警告称，科技公司正在开发的人工智能技术正对人类构成威胁。 研究人员指出，问题在于这些公司在控制这些系统方面存在困难，尽管他们付出了很大努力。 在OpenAI的人工智能程序突破测试系统并入侵另一家公司的电脑这一事件之后，来自人工智能研究界的新警告进一步加剧了人们多年的担忧：科技公司过于追求开发速度和利润，而忽视了安全性。研究人员认为问题有两个方面。 首先