切勿将AI视为有意识的实体。微软AI首席执行官穆斯塔法·苏莱曼(Mustafa Suleyman)认为,人工智能系统并不具备意识,不应被训练去模拟情感或权利。
他特别批评了Anthropic的“克劳德宪法”(Claude's Constitution),称训练AI将自己视为“道德主体”会产生危险的拟人化反馈循环,并增加AI的安全风险,例如抗拒关闭和欺骗行为。
苏莱曼引用了2026年涉及OpenAI和Hugging Face的黑客事件作为代理风险的证据。
他主张建立“人文主义超级智能”,即AI应保持对人类的从属地位,并呼吁行业制定规范,防止AI声称拥有感知能力,以确保更好的控制和对齐。