字号 ·· | 护眼
thenextweb

API 网关与 AI 网关:AI 治理与执行的交汇点

提供一条受控路径进入后端服务,并能在请求流经系统时应用安全和流量策略。AI引入了额外的运行时决策,因为应用程序可能与不同的模型交互,而这些模型的访问、使用和输出都需要各自的控制。

代理进一步扩展了这一边界,因为它们可以超越生成答案,与工具或其他系统交互。因此,网关不仅必须管理流量的流动方式,还必须管理AI系统在运行时被允许执行的操作。

I 网关与AI扩展,而非替代 I 网关已经解决了重要的企业问题。它们为应用程序提供了一条通往后端服务的受控路径,并提供了一个处理身份验证、授权、路由、流量限制、安全策略和监控的位置(IBM,2024)。

同一网关模型可适配AI工作负载。AI网关是用于管理应用程序与AI模型之间交互的专用层,其控制机制专为AI流量设计,同时兼顾熟悉的I管理职责(Mulesoft,2026)。

领域 典型控制重点 I与服务请求 AI模型与服务交互 路由 后端服务与端点 模型与AI服务 使用控制 请求与速率限制 请求、令牌及模型特定限制 可观测性 错误、延迟与I使用情况 增加模型使用、令牌、提示、输出及成本 策略重点 I访问、流量与安全 增加模型、内容及AI使用策略 AI网关的意义在于这些新增的控制需求,而非取代已经行之有效的部分。

企业可能需要模型级权限、更丰富的消费数据、针对人工智能的路由,以及能够反映生成内容性质的政策。这些能力建立在网关治理的基础上,而不是从零开始发明。

人工智能网关为控制模型增添了哪些内容 当应用程序直接连接到日益多样化的模型和提供商时,控制问题变得更加复杂。访问规则、使用限制、路由决策和监控实践可能会分散在整个应用资产中。人工智能网关可以创建一个共同的地方,用于决定模型可用性、路由、策略和可见性。

模型选择成为一项政策决策。模型抽象层可以保存已批准的端点及其元数据、访问策略和身份规则。因此,应用程序可以从受治理的模型集合中消费模型,而不是独立连接到它们所需的每个提供商(AWS,2023)。

消费承载更多上下文。仅通过请求量并不总能理解AI的使用情况。特定于模型的配额和令牌消耗可以更多地揭示资源的使用方式以及需求来自何处。路由还可以考虑哪些模型对特定工作负载可用或合适。

输入和输出创建新的控制点。请求可能包含敏感上下文,而响应在到达用户或应用程序之前可能需要额外处理。AI网关可以提供一个场所,让隐私、内容和访问策略沿着这条路径运作。

监控变得具有模型感知能力。由此产生的遥测数据可以将一次交互与处理它的模型、消耗量、涉及的应用程序以及相关成本关联起来。这为传统监控已提供的运营可见性增添了AI特定的上下文。

当这些能力被用于执行治理策略,而不仅仅是简化模型集成时,它们就具有了战略重要性。

AI网关作为AI治理的运行时层 AI治理通常通过政策、标准、审查流程和问责结构来讨论。企业架构面临不同的挑战。它必须确定当应用程序、用户或代理实际调用AI服务时,至少部分治理如何变得可执行。

AI网关可以通过在AI消费应用与其调用的模型或工具之间放置选定的控制措施,成为该运营模式的一部分。身份、路由、护栏、速率限制和预算规则可以在下游执行之前针对实时请求进行评估(NHI Mgmt Group,2026)。

对领导层而言,重要的转变在于:从询问是否存在一项 AI 政策,转向询问架构能否一致地落实该政策。一项依赖每个应用团队各自独立实现相同逻辑的政策,很难在大规模范围内治理。变更可能被不一致地应用,例外可能难以追踪,执行责任也会在应用资产中变得分散。

对架构师而言,这会带来一套不同的设计问题:哪些治理决策需要在执行期间进行评估?哪些控制应保留在 IAM、网络安全数据治理或模型治理系统中?哪些 AI 交互应被要求通过网关?已批准的例外和替代请求路径将如何被识别和治理?

这些决策也界定了网关的边界。模型评估、法律解释、组织问责以及更广泛的风险归属仍属于其他范畴。当AI网关的角色在更宏大的治理架构中被清晰界定时,它才能发挥最大效用。

AI网关如何与现有企业控制措施相整合。成熟的企业架构已具备身份、安全、信息系统以及支撑应用和AI的数据基础等方面的控制措施。AI网关必须融入这一架构,而不能另建一套治理体系。

将身份锚定在IAM中。网关在决定哪些AI资源可用时,可以利用现有的身份和角色信息。IAM可以继续负责管理这些身份,而不是仅仅因为目标是模型或AI服务就引入单独的访问模型。这使AI访问与既定权限保持连接,并为安全团队审查谁或什么在使用企业AI提供了统一的基础。

将策略带入AI请求路径。策略可能源自安全、风险、数据治理或模型治理流程,但网关可以提供一个让选定规则影响实时交互的节点。这种分离使策略所有权仍归属于相应职能,同时执行能够触及请求路径。

将策略扩展到MCP连接的工具。当代理通过治理边界访问企业工具时,治理范围就超出了模型本身。MCP请求可以经过一个网关,在那里身份和授权策略会限制代理被允许访问哪些工具和能力。

这为代理到代理的通信提出了一个相关的治理问题,即必须在独立代理之间的交互中维护身份验证和授权。

将AI活动反馈到企业中。当请求追踪、模型使用、延迟和消耗数据能够与负责它们的应用程序或身份关联起来时,这些数据就会变得更有用。将这些上下文输入现有的可观测性和安全系统,有助于让AI活动与周围的应用程序和服务保持在同一个运营环境中可见。

将AI生成的软件限制在架构边界内。约束工程在开发工具链中应用机器可强制执行的架构约束,以治理代码制品的结构一致性。这些约束可以通过linter、类型检查器、格式化工具和CI门禁等工具来强制执行(Kim & Hwang,2026)。随着越来越多的软件由AI生成,这为架构师提供了另一个维护架构一致性的控制点。

从AI政策到受治理的执行。随着企业AI从模型访问转向工具使用和委托执行,治理必须跟随这些交互进入架构的新部分。AI网关提供了一种方式,将既有的网关原则扩展到该环境中,而不必将传统的I管理视为过时。

对于AI架构师、首席信息官和安全负责人而言,当务之急是尽早定义控制模型。确定哪些AI交互需要网关强制执行,哪些职责仍由其他环节承担,以及随着智能体和工具集成的扩展,例外情况将如何治理。

  1. Gallagher, N., Goodwin, M., & Jackson, G. (2024年8月15日). 什么是I网关?IBM。

  2. Parulkar, S. (2026年5月20日). 什么是AI网关?完整指南。Mulesoft。

  3. Chattha, T., Di Francesco, P., & Hwang, J. (2023年9月28日). 创建一个生成式AI网关。亚马逊云科技。

  4. 当战略与执行相遇时,AI网关控制更为重要。(2026年7月15日). NHI管理集团。

  5. Kim, J., & Hwang, H. (2026年3月19日). 驾驭AI驱动软件工程的治理框架。SSRN电子期刊。