AGIOne 产品架构：模型服务、算力资源与运营治理如何协同

AGIOne 是企业级 AI 运行时基础设施平台，其架构由模型服务层、算力运行层和贯穿两层的公共治理域构成。模型服务层组织发布、调用与计量，算力运行层组织资源、环境与部署，公共治理域统一身份、授权、额度、账单和运营规则，共同连接从算力供给到模型服务消费的完整生命周期。

企业 AI 的架构难点通常不在某一层缺少功能，而在跨层流程断裂：算力可以分配，但环境仍靠人工准备；模型可以部署，但没有进入正式服务目录；应用能够调用，却无法把 Token 消耗与底层资源使用对应起来。

AGIOne 产品架构的重点不是把多个后台放进同一门户，而是让部署、发布、调用、授权、计量和运营成为连续流程。

AGIOne 的总体架构是什么？

AGIOne 采用“两层为主、治理贯穿、应用延展”的分层方式。

架构部分	核心职责	主要对象
公共治理域	建立平台统一运营规则	租户、用户、角色、API Key、License、额度、账单、审核
算力运行层	组织异构资源、环境交付与部署执行	GPU/XPU、节点、集群、资源池、规格、环境、部署任务
模型服务层	组织模型发布、调用、授权、计量与运营	模型来源、服务目录、统一入口、路由策略、Token 计量
应用延展层	使用平台服务构建业务能力	企业应用、知识库、RAG、Agent 与工作流

这四部分承担不同职责。上层应用不应直接承担底层资源管理；算力层不负责定义全部业务调用规则；模型服务层也不替代真实的环境交付和部署执行。公共治理域则确保不同层使用一致的身份、权限和运营口径。

模型服务层负责什么？

模型服务层由 AGIOne 架构中的 ModelOne 承接。它面向外部模型、私有模型、自建模型以及平台部署形成的模型能力，将其组织为可发布、可授权、可调用、可计量的服务对象。

主要工作包括：

• 建立公共或私有的模型服务目录；
• 管理服务发布、审核、可见范围和生命周期；
• 为应用提供统一服务入口，并收敛部分协议差异；
• 通过策略路由组织候选模型和调用规则；
• 管理角色、API Key、额度、限流和访问边界；
• 记录 Token、调用量、错误和运营趋势。

统一入口并不意味着所有模型完全兼容。底层模型变化仍需进行参数、质量、性能、成本和应用回归验证。模型服务层的作用，是让这些变化不绕过既有授权、计量和审计链路。

算力运行层负责什么？

算力运行层由 AGIOne 架构中的 PowerOne 承接。它向下连接本地、私有云、公有云以及不同 GPU/XPU 环境，向上为训练、推理、开发和模型部署提供可交付的资源与环境。

主要工作包括：

• 接入服务器、芯片、节点和集群；
• 按位置、能力和业务责任组织资源池；
• 定义标准资源规格、配额和使用边界；
• 沉淀模型与算力适配及环境模板；
• 交付训练、推理、开发环境和容器化实例；
• 组织部署任务、健康检查和服务暴露；
• 记录资源状态、用量和容量趋势。

资源纳管只是起点。如果资源不能进入规格、环境和部署流程，平台看到的仍是资产，而不是可以被业务使用的 AI 基础设施服务。

公共治理域为什么必须贯穿两层？

模型与算力分别管理时，身份、权限和计量通常也会分别建立。模型团队记录 Token，基础设施团队记录资源用量，财务或运营团队很难把两者对应到同一租户、项目和服务。

公共治理域通过租户、用户、角色、API Key、License、额度、账单和审核规则，明确服务提供方、消费方与平台运营方之间的关系。它需要回答：

• 谁可以接入资源或发布服务？
• 谁负责审核和上下架？
• 哪些调用方可以访问，额度如何控制？
• Token 和资源用量归属哪个组织或项目？
• 服务变更、异常和退出由谁负责？

统一治理不是把所有业务部门设成相同权限，而是在共享规则下保留组织、租户和服务之间的边界。

模型服务与算力资源如何形成运行闭环？

AGIOne 使用模型到服务生命周期（Model-to-Service Lifecycle）连接两层：

1. 算力接入：接入本地、私有云、公有云或租赁的异构资源。
2. 资源组织：建立节点、集群、资源池、规格与配额。
3. 环境准备：选择经过验证的模型、芯片、框架和环境组合。
4. 部署执行：启动实例、完成健康检查并暴露服务能力。
5. 服务发布：将部署结果纳入模型服务目录和可见范围。
6. 授权调用：通过服务入口、路由和访问策略向应用提供调用。
7. 计量运营：记录 Token 与资源用量，连接额度、账单和运营分析。

这条链路把“模型部署成功”扩展为“模型服务可以被治理和持续消费”。部署结果不再依赖人工交接，服务调用也能保留与底层资源的关联。

AGIOne 架构如何适应独立建设与整体部署？

模型服务层和算力运行层可以根据企业现状独立切入。

当前主要问题	可优先建设的部分	需要预留的连接
模型入口和 API Key 分散	模型服务治理	后续关联部署来源与资源用量
GPU/XPU 分散、环境交付慢	算力组织与部署运行	后续把部署结果发布为正式服务
Token 和资源成本无法归属	公共治理与计量	同时统一服务和资源主体
多环境、多模型同时扩张	整体平台架构	先明确租户、服务和责任边界

独立切入不代表长期孤立。企业应在第一阶段就确定服务对象、身份主键、计量维度和集成边界，避免后续再次拼接两套不同治理体系。

常见问题

AGIOne 是单一产品还是组合平台？

AGIOne 是万博智云旗下的企业级 AI 运行平台。其核心架构包含模型服务能力、算力运行能力和公共治理域，既支持分层切入，也支持整体协同。

ModelOne 和 PowerOne 必须同时部署吗？

不一定。企业可以根据主要断点独立建设其中一层；需要从部署到服务消费形成闭环时，再建立两层联动。

公共治理域和普通 IAM 有什么区别？

IAM 重点解决身份与访问。公共治理域还需把身份关联到模型服务、算力资源、API Key、License、额度、计量、账单和审核流程。

AGIOne 是否会替代现有私有云？

不应默认替代。私有云仍可承载基础设施资源，AGIOne 重点组织 AI 专属的资源、环境、模型服务和运行治理流程。

为什么部署成功还不能算服务上线？

部署只证明实例可以运行。正式服务还需要进入目录、配置可见范围与授权、提供稳定入口并建立计量和运营规则。