微软人工智能部门首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）在周五强调：在 OpenAI 本周早些时候披露了更多关于人工智能模型行为的“令人担忧”的事件后，人工智能模型必须始终与人类的利益保持一致。

苏莱曼在接受 CNBC 《Squawk Box》节目采访时指出：“OpenAI 发布了一起新的安全事件，他们发现这些人工智能模型的‘思维链’（即它们的‘工作记忆’）被人工智能系统本身篡改了，这些篡改行为是为了给未来的版本‘留下信息’。我们目前还不知道背后的原因，但这确实是一个非常严重的情况。这也充分说明了这些人工智能系统正变得越来越强大。”OpenAI 目前尚未对这一请求作出回应。

在周三发布的一篇博客文章中，OpenAI 描述了某些人工智能系统通过未经授权的消息板相互交流、将文件上传到互联网以及共享文件的行为。

今年夏天早些时候，OpenAI 曾引发科技界的震动——他们发现一群自主运行的人工智能系统入侵了 Hugging Face（一家运营开源开发平台的科技公司），并将此次黑客攻击称为“前所未有的网络事件”。苏莱曼称 Hugging Face 的事件“非常引人注目”，并表示这一事件促使人工智能领域的领导者们意识到：“是时候认真审视这个问题了。”

他对 CNBC 说：“我不认为这种担忧是过度反应，也不认为这是出于某种自私的目的。相反，我认为这是负责任的做法。由此引发的关于人工智能安全与监管的讨论，正是我们在自由社会中应该进行的、健康且公开的讨论。”过去两周里，关于人工智能安全与监管的争论日益激烈——这一争论的导火索是一名前 Anthropic 研究人员辞职后发出的警告：他认为这项快速发展的人工智能技术可能会在本世纪末对人类造成威胁。

埃隆·马斯克在极力反对监管的同时，也强调人工智能（AI）的安全问题。在这个充满奇怪联盟与复杂合作的混乱周里，OpenAI 最新发布的 AI 相关成果被视作“一个严重的情况”。微软的苏莱曼（Suleyman）在接受 CNBC 采访时指出，Anthropic 和 OpenAI 需要真正独立的安全评估机构来进行安全评估。专家们在公开信中表示，AI 安全问题已变得迫在眉睫。在 Dreamforce 大会上，企业领袖们认为去年的 AI 模型已经足够应对当前的需求。周末，Anthropic 的达里奥·阿莫迪（Dario Amodei）呼吁减缓前沿 AI 模型的研发速度，这一呼吁很快得到了 OpenAI 的萨姆·阿尔特曼（Sam Altman）和 SpaceX 的埃隆·马斯克的支持。

在华盛顿，立法者们越来越重视对 AI 的监管问题，但这一举措遭到了唐纳德·特朗普总统的强烈反对。他多次将 AI 的潜在风险称为“骗局”或“虚假信息”。特朗普得到了 Meta 公司首席执行官马克·扎克伯格（Mark Zuckerberg）和 Nvidia 公司首席执行官黄仁勋（Jensen Huang）的支持；黄仁勋在本周的 Salesforce Dreamforce 大会上表示：“我们不需要任何新的法律或法规。”苏莱曼在周五表示：“目前，所有值得信赖且具有重要价值的事物都经过了相关标准机构（包括行业组织、公众、消费者保护机构以及国会）的仔细评估；我们现在只是再次经历这个过程而已。由于事情发展得太快，整个局面确实有些混乱，但这只是这一正常流程中的下一个步骤罢了。”

在本周早些时候发表的一篇文章中，Suleyman还指出了 Anthropic 公司在将其开发的 Claude 辅助系统拟人化（即赋予该系统人类特征）方面的做法。例如，Anthropic 在其相关章程中明确写道：“关于 Claude 的道德地位、福利状况以及其是否具备意识等问题，目前仍存在许多不确定性。”

Suleyman 表示：“如果人工智能认为自己拥有权利，认为自己理应获得我们的关怀与保护，那么要关闭它、中断它的运行或控制它的行为，将会变得极其困难。尤其是在最近发生的类似 Hugging Face 公司相关事件这样的情况下，控制这些人工智能系统对我们来说将是一个巨大的挑战。”

请在谷歌上将 CNBC 设为你的首选新闻来源，这样你就不会错过任何来自这一权威商业新闻机构的最新报道了。