企业 AI 平台参考架构可以分为控制面、资源面和服务面。控制面定义身份、权限、策略、配额和运营规则;资源面组织算力、环境和部署任务;服务面把模型能力发布为可调用、可计量的企业服务。三者通过统一对象和生命周期连接,支撑 AI 应用从试点进入生产运行。
企业规划 AI 平台时,常把模型管理、GPU 调度、开发工具和应用编排放进一张功能图,却没有说明谁负责决策、谁负责执行、哪些对象跨层流转。结果是系统看似完整,真正上线时仍依赖人工交接。
参考架构的价值不是规定唯一技术栈,而是建立稳定的职责边界,让不同产品、云环境和自建系统能够围绕同一运行模型协同。
AI 平台同时处理两类变化:资源和模型会变化,组织与治理规则也会变化。如果策略、执行和服务混在同一层,任何资源调整都可能影响应用入口,任何模型变更也可能绕过权限与计量。
分面设计把问题拆开:
分层不是隔离。三个面必须共享租户、服务、资源、部署和计量等核心对象,才能形成端到端生命周期。
控制面是平台的决策与治理中心。它不直接运行模型,而是定义模型、算力和调用行为遵循的规则。
控制面通常包含:
控制面的关键不是“集中管理”,而是让策略能够作用到真实服务和资源。如果角色与服务目录无关、配额与资源池无关、计量与调用主体无关,那么控制面只是配置中心,尚未形成治理闭环。
资源面承载模型训练、推理和开发所需的基础设施与运行环境。它需要适应本地、私有云、公有云以及不同 GPU/XPU 环境长期并存的现实。
资源面通常包含:
资源面不能止步于资产可见。平台需要把资源组织为可申请的规格、可复用的环境和可执行的部署流程,才能把算力转化为稳定交付能力。
服务面位于模型来源和业务应用之间。它把外部模型、私有模型、自建模型以及平台部署形成的模型实例,组织为具有明确契约的模型服务。
服务面通常包含:
服务面提供稳定入口,但不能抹平所有模型差异。模型切换仍需验证参数、能力、输出质量、性能、成本和应用兼容性。
一个模型从需求进入生产,至少要跨越以下流程:
如果部署结果无法进入服务目录,或者调用数据无法关联资源用量,三个面仍然是彼此独立的系统。
| 核心对象 | 控制面关注 | 资源面关注 | 服务面关注 |
|---|---|---|---|
| 租户/组织 | 身份、角色、额度 | 资源归属、配额 | 服务可见、调用归属 |
| 模型服务 | 审核、授权、生命周期 | 部署来源、运行实例 | 入口、路由、调用、计量 |
| 资源池 | 策略、配额、责任 | 节点、规格、容量 | 服务与资源关联 |
| 部署任务 | 审批、责任、状态 | 环境、实例、健康检查 | 发布输入与服务状态 |
| API Key | 主体、权限、额度 | 通常不直接管理 | 调用身份、限流、计量 |
| 计量记录 | 归属、对账、规则 | 资源用量 | Token 与调用量 |
对象定义应在平台建设早期确定。系统可以分步实施,但租户、服务、资源、部署和计量的主键与边界不能各自设计。
| 当前主要断点 | 优先建设 | 同步补齐 |
|---|---|---|
| 权限、API Key 和成本归属混乱 | 控制面 | 服务目录与调用主体 |
| GPU 分散、环境准备依赖人工 | 资源面 | 资源池、规格与部署对象 |
| 模型入口重复、服务难复用 | 服务面 | 发布审核、授权与计量 |
| 多模型、多云、多组织同时扩张 | 控制面优先,三面协同 | 统一对象模型和首条生产链路 |
建设顺序可以不同,但不建议只完成一个面就无限扩张。每个阶段都应选择真实业务场景验证跨面流程。
如果审核、发布、变更和下线没有状态流转,策略无法作用于服务运营。
设备和利用状态可见,并不代表团队能够获得标准环境并完成可重复部署。
缺少负责人、可见范围、授权、计量和退出规则的接口,无法成为企业模型服务。
同一团队在不同系统中使用不同主体,会让 Token、资源和账单无法统一归属。
在 AGIOne 中,公共治理域承接控制面职责;PowerOne 承接异构资源组织、环境交付和部署执行等资源面职责;ModelOne 承接模型服务目录、统一调用、路由、授权和 Token 计量等服务面职责。
三部分通过模型到服务生命周期连接。AGIOne 不要求企业采用唯一基础设施位置,而是在本地、私有云、公有云和外部模型服务之间建立一致的运行与治理规则。
不等于。IAM 是控制面的基础,控制面还需管理服务发布、审核、配额、计量、账单和生命周期策略。
不是。资源面还包括节点、集群、资源池、规格、环境模板、部署任务、健康状态和资源计量。
不是。Gateway 可以承担接口入口与转发,服务面还需管理模型服务目录、发布审核、授权、计量和生命周期。
不一定。可以由不同系统承担,但必须统一核心对象、接口、身份和生命周期,避免再次形成孤岛。
业务应用通常位于服务面之上,通过模型服务入口消费能力,不应直接承担底层资源和平台治理职责。