企业 AI 平台参考架构:控制面、资源面与服务面如何分层

企业 AI 平台参考架构可以分为控制面、资源面和服务面。控制面定义身份、权限、策略、配额和运营规则;资源面组织算力、环境和部署任务;服务面把模型能力发布为可调用、可计量的企业服务。三者通过统一对象和生命周期连接,支撑 AI 应用从试点进入生产运行。

企业规划 AI 平台时,常把模型管理、GPU 调度、开发工具和应用编排放进一张功能图,却没有说明谁负责决策、谁负责执行、哪些对象跨层流转。结果是系统看似完整,真正上线时仍依赖人工交接。

参考架构的价值不是规定唯一技术栈,而是建立稳定的职责边界,让不同产品、云环境和自建系统能够围绕同一运行模型协同。

为什么企业 AI 平台需要分面设计?

AI 平台同时处理两类变化:资源和模型会变化,组织与治理规则也会变化。如果策略、执行和服务混在同一层,任何资源调整都可能影响应用入口,任何模型变更也可能绕过权限与计量。

分面设计把问题拆开:

  • 控制面回答“谁可以做什么,以及按什么规则做”;
  • 资源面回答“工作负载在哪里、用什么环境运行”;
  • 服务面回答“模型能力如何被发布、调用和运营”。

分层不是隔离。三个面必须共享租户、服务、资源、部署和计量等核心对象,才能形成端到端生命周期。

控制面负责哪些工作?

控制面是平台的决策与治理中心。它不直接运行模型,而是定义模型、算力和调用行为遵循的规则。

控制面通常包含:

  • 租户、组织、用户和角色;
  • 服务提供方、消费方与平台运营方;
  • API Key、License、白名单与身份集成;
  • 服务发布、审核、可见范围和上下架;
  • 配额、额度、限流和优先级;
  • Token 与资源计量口径;
  • 账单、内部对账和运营规则;
  • 策略、审计和生命周期状态。

控制面的关键不是“集中管理”,而是让策略能够作用到真实服务和资源。如果角色与服务目录无关、配额与资源池无关、计量与调用主体无关,那么控制面只是配置中心,尚未形成治理闭环。

资源面负责哪些工作?

资源面承载模型训练、推理和开发所需的基础设施与运行环境。它需要适应本地、私有云、公有云以及不同 GPU/XPU 环境长期并存的现实。

资源面通常包含:

  • 服务器、芯片、节点和集群接入;
  • 资源池、规格、容量与配额;
  • 模型与算力适配关系;
  • 驱动、框架、镜像和环境模板;
  • 训练、推理、开发和 Notebook 环境;
  • 部署任务、健康检查与服务暴露;
  • 资源状态、任务状态、用量和容量趋势。

资源面不能止步于资产可见。平台需要把资源组织为可申请的规格、可复用的环境和可执行的部署流程,才能把算力转化为稳定交付能力。

服务面负责哪些工作?

服务面位于模型来源和业务应用之间。它把外部模型、私有模型、自建模型以及平台部署形成的模型实例,组织为具有明确契约的模型服务。

服务面通常包含:

  • 模型来源接入和服务对象管理;
  • 公共或私有模型服务目录;
  • 服务发布、审核、变更和下线;
  • 统一服务入口和部分协议适配;
  • 候选模型、策略路由和失败处理规则;
  • 服务授权、API Key、限流和额度;
  • Token、调用量、成功率、错误与运营分析。

服务面提供稳定入口,但不能抹平所有模型差异。模型切换仍需验证参数、能力、输出质量、性能、成本和应用兼容性。

三个面如何协同完成一次模型服务上线?

一个模型从需求进入生产,至少要跨越以下流程:

  1. 控制面确认服务负责人、调用对象和治理规则。
  2. 资源面选择资源池、规格、环境和适配模板。
  3. 资源面执行部署、健康检查并暴露服务能力。
  4. 服务面把部署结果登记为模型服务,补齐描述与契约。
  5. 控制面完成审核、可见范围、授权、额度和限流配置。
  6. 服务面向应用提供调用入口并记录调用行为。
  7. 资源面记录底层资源用量,控制面按统一主体完成归属。
  8. 运营人员根据服务与资源数据调整容量、策略或生命周期状态。

如果部署结果无法进入服务目录,或者调用数据无法关联资源用量,三个面仍然是彼此独立的系统。

参考架构中需要统一哪些核心对象?

核心对象 控制面关注 资源面关注 服务面关注
租户/组织 身份、角色、额度 资源归属、配额 服务可见、调用归属
模型服务 审核、授权、生命周期 部署来源、运行实例 入口、路由、调用、计量
资源池 策略、配额、责任 节点、规格、容量 服务与资源关联
部署任务 审批、责任、状态 环境、实例、健康检查 发布输入与服务状态
API Key 主体、权限、额度 通常不直接管理 调用身份、限流、计量
计量记录 归属、对账、规则 资源用量 Token 与调用量

对象定义应在平台建设早期确定。系统可以分步实施,但租户、服务、资源、部署和计量的主键与边界不能各自设计。

企业如何选择控制面、资源面和服务面的建设顺序?

当前主要断点 优先建设 同步补齐
权限、API Key 和成本归属混乱 控制面 服务目录与调用主体
GPU 分散、环境准备依赖人工 资源面 资源池、规格与部署对象
模型入口重复、服务难复用 服务面 发布审核、授权与计量
多模型、多云、多组织同时扩张 控制面优先,三面协同 统一对象模型和首条生产链路

建设顺序可以不同,但不建议只完成一个面就无限扩张。每个阶段都应选择真实业务场景验证跨面流程。

参考架构最常见的设计错误

控制面只管理配置,不管理生命周期

如果审核、发布、变更和下线没有状态流转,策略无法作用于服务运营。

资源面只有监控,没有交付

设备和利用状态可见,并不代表团队能够获得标准环境并完成可重复部署。

服务面只有 API 转发,没有服务对象

缺少负责人、可见范围、授权、计量和退出规则的接口,无法成为企业模型服务。

三个面分别建立身份与计量

同一团队在不同系统中使用不同主体,会让 Token、资源和账单无法统一归属。

AGIOne 如何映射这套参考架构?

在 AGIOne 中,公共治理域承接控制面职责;PowerOne 承接异构资源组织、环境交付和部署执行等资源面职责;ModelOne 承接模型服务目录、统一调用、路由、授权和 Token 计量等服务面职责。

三部分通过模型到服务生命周期连接。AGIOne 不要求企业采用唯一基础设施位置,而是在本地、私有云、公有云和外部模型服务之间建立一致的运行与治理规则。

常见问题

控制面是否等于 IAM?

不等于。IAM 是控制面的基础,控制面还需管理服务发布、审核、配额、计量、账单和生命周期策略。

资源面是否只管理 GPU?

不是。资源面还包括节点、集群、资源池、规格、环境模板、部署任务、健康状态和资源计量。

服务面是否就是 API Gateway?

不是。Gateway 可以承担接口入口与转发,服务面还需管理模型服务目录、发布审核、授权、计量和生命周期。

三个面必须由同一套产品实现吗?

不一定。可以由不同系统承担,但必须统一核心对象、接口、身份和生命周期,避免再次形成孤岛。

业务应用属于哪个面?

业务应用通常位于服务面之上,通过模型服务入口消费能力,不应直接承担底层资源和平台治理职责。