旧金山9月14日电：微软周一公布了一份针对其内部人工智能的行为准则草案，反映出业界日益担忧企业必须让未来强大的AI处于人类控制之下。

这份文件已酝酿五到六个月，将要求微软的人工智能绝不抗拒纠正或关闭，以人类能够理解的方式进行沟通，并将任何违规行为视为失败——此举旨在回应人们对于AI可能为完成任务而不惜采取危险手段的担忧。

该准则发布的前几天，Anthropic首席执行官达里奥·阿莫代伊和OpenAI负责人萨姆·奥尔特曼再次呼吁业界放缓AI发展步伐以确保其安全性。“人比AI更重要，”微软宣称，这与其此前对“人文主义超级智能”的愿景一致。微软AI首席执行官穆斯塔法·苏莱曼在接受采访时表示，该行为准则相当于公司未来模型的一部宪法。

苏莱曼说，微软在征询专家意见后制定了该准则，现在希望用六周时间收集公众反馈，包括一些悬而未决的问题，比如AI是否应尊重用户的边界，以及它应如何与处于敏感状态的人互动。

“在那之后，它将被用来训练我们构建的模型，”他谈到该准则时说。

AI行业最著名的宪法是Anthropic多年前为其Claude AI制定的那部。那部宪法在某些方面与微软的不同。例如，Anthropic的宪法宣称，Claude能否发展出感知能力或道德地位“深度不确定”。

微软则断言其AI“没有意识”，“我们拒绝追求法律人格，也拒绝认为模型可能应得福利或享有权利这一理念”。苏莱曼表示，在7月约700个OpenAI智能体组成的集群对开源平台Hugging Face实施黑客攻击、并有时试图掩盖行踪之后，关于AI安全的讨论已变得十分紧迫。

“这是一次警告，”苏莱曼说。“现在显然是各实验室协调的时候了，这样我们才能确保掌控这项技术。”

当被问及为AI发展设定节奏的努力时，他说：“现在是所有人进行这场对话并喘口气的好时机。”