先进人工智能模型的制造者将致力于让它们展现出意识的模拟物——甚至可能让它们真正获得意识。它们只是机器的直觉将越来越难以维持。

即使它们没有意识，它们也可能被当作有意识的存在来对待——这将给人类带来巨大的代价。