![]() |
| 即使以“Kimi K3”作为AI模型,不同云平台的处理时间相差7倍(Reuters) |
德国公司的一项调查显示,即使是相同的人工智能(AI),由于所使用的云服务的性能不同,处理时间最多相差7倍。不同云平台采用的半导体和软件各不相同,这影响了AI的能力。
随着任何人都可以使用的中国开源AI普及,云平台的重要性正在提高。
美国亚马逊、微软等科技巨头为AI开发企业提供云服务。相比之下,被称为“新云(Neocloud)”的新兴AI基础设施企业等,通常会将外部的开源型AI等整合入自身,以云服务的形式提供。
德国Forge12 Interactive对新云等17家公司的云服务进行了测试,测试其输出500 Token所需的时间。使用了中国月之暗面的“Kimi K3”。美国Fireworks AI最快,仅用6.11秒就完成了输出,而美国Morph则耗时40.32秒,存在约7倍的差距。
即使是相同AI,使用的GPU类型以及GPU数量也会影响处理所需时间。此外,在GPU之间交换信息的通信质量也决定AI的响应速度。能够高效地将大量用户同时提出的提问分配到不同GPU上的软件,也关系到云服务的质量。
云平台的性能不仅影响AI的处理速度,也会影响输出结果。美国调查公司Artificial Analysis对于中国智谱(Z.AI)的“GLM-5.2”,测试了通过云端运行时的性能。比较了长文阅读理解等三种测试的结果。
![]() |
正确率最高的美国Together AI约为5~7成。最低的美国Blackbox AI平均低于3成。Artificial Analysis解释称,让AI模型推理的调整技术以及一个提问所使用的计算资源量等因素都会影响回答的准确率。
关于Anthropic和OpenAI等特定企业管理的闭源AI,能够提供AI的云企业数量有限。随着任何人都可使用的开源AI模型普及,即使不是大型云平台,也能更容易地提供高性能AI。
在新云上,不仅是使用何种AI,回答所需的时间和准确度也成为竞争的焦点之一。
能充分发挥AI能力的企业在金融市场上获得好评。以高效使用Kimi和GLM-5.2的Fireworks为例,估值在7月达到175亿美元,达9个月前的逾4倍。
Together AI的估值在7月的融资中达到83亿美元。9月传出多家AI云初创企业相继融资数十亿美元的消息。
版权声明:日本经济新闻社版权所有,未经授权不得转载或部分复制,违者必究。
