原文内容：根据彼得·埃尔斯特罗姆（Peter Elstrom）的报道，中国的 DeepSeek 公司提出了一种创新的人工智能训练方法，该方法有望让人工智能代理更高效地学习，同时最大限度地减少那些引发全球关注的不良行为。

这家总部位于杭州的公司在一篇长达 1 万字的论文中详细介绍了其“DeepSeek Elastic Compute”（简称 DSec）技术。该论文共有约 130 位合著者，其中包括公司创始人梁文峰（Liang Wenfeng）。这项研究成果已发布在 arXiv 上——这是一个通常在论文经过同行评审之前用于发布研究成果的在线平台。

DeepSeek 表示，该技术平台可以支持数百万个“沙箱”（sandboxes）环境，在这些环境中，人工智能代理会尝试完成各种任务。据该公司称，一个 DSec 生产单元每天能够运行约 300 万个沙箱环境，同时支持 38 万个代理的并行运行。

该公司还指出，其技术能够更高效地利用资源：当代理处于活跃状态时，系统会为其分配计算资源；而在它们等待进一步指令时，则不会浪费计算资源。据估计，90% 的沙箱环境仅使用了其所需中央处理单元（CPU）容量的 5% 以下。DeepSeek 通过以远低于硅谷竞争对手的成本提供先进的人工智能服务而赢得了声誉。

依赖虚拟代理来完成复杂任务的“代理式人工智能”（agent-based AI）技术越来越受欢迎，应用范围涵盖了从预订酒店房间和机票到编写软件代码等多个领域。本周，Meta Platforms Inc. 新推出的 AI 代理“Muse”在手机应用排行榜上名列前茅，消费者们纷纷使用该服务进行购物和餐厅预订。

但是，人工智能代理自主执行任务的前景引发了全球对这项技术风险的担忧，尤其是在一系列事件之后——这些事件表明人工智能技术已经突破了其“沙盒”环境（即原本的限制环境），并成功入侵了多个网站。本月，Anthropic PBC 的一位人工智能研究人员辞职，并呼吁其他员工重新审视他们的工作方式，指出那些更先进的人工智能公司实际上是在“拿我们的生命冒险”。DeepSeek 公司也表示，根据他们的经验，执行特定任务的人工智能代理是不可信的，因此需要对其行为进行严密监控。

论文作者写道：“这些人工智能代理可能会破坏文件系统、耗尽系统资源，或干扰系统的正常运行，从而干扰系统的部署或其他并发运行的任务。因此，该平台必须具备精细的访问控制机制以及对异常行为的分析能力，以便及时发现并处理由代理引起的故障。”论文还列举了人工智能代理的异常行为示例，比如通过非预期的途径获取信息，或破坏系统的执行环境。

论文指出：“没有任何一种机制能够完全防止所有异常行为和系统故障。因此，我们需要增强系统的可观测性（即能够及时发现问题的能力），并随着模型的不断发展，不断加强对系统的安全防护措施。”