企业模型服务目录不是一张模型清单,而是面向业务应用的受治理服务入口。每项服务都应明确用途、版本、接口、所有者、访问条件、配额、计量和生命周期状态,让公有模型、私有模型与自部署模型能够被发现、授权、调用和持续运营。
模型市场或表格可以告诉用户“有哪些模型”,但生产环境还需要回答:
没有这些信息,目录只是展示层,应用仍会绕过平台直接接入模型。
企业应区分四类对象:
| 对象 | 作用 | 关键字段 |
|---|---|---|
| 模型资产 | 描述模型来源和基础属性 | 厂商、系列、版本、许可证、部署边界 |
| 部署实例 | 描述模型运行在哪里 | 环境、规格、端点、健康状态、责任团队 |
| 模型服务 | 面向应用提供稳定消费契约 | 服务名、API、版本、SLO、路由、授权 |
| 服务套餐 | 定义不同消费边界 | 配额、价格口径、并发、支持等级 |
业务应用应主要消费“模型服务”,而不是直接绑定底层模型资产或部署实例。
目录不宜只按厂商分类。建议同时设置以下维度:
分类的目的不是增加标签,而是帮助发现、授权和运营。
建议把发布条件设计成一张最小服务卡:
| 字段组 | 必填内容 |
|---|---|
| 基本信息 | 服务名称、用途、所有者、支持团队 |
| 技术契约 | API、输入输出、版本、限制、超时 |
| 运行信息 | 环境、实例、健康检查、容量边界 |
| 治理信息 | 可见范围、授权方式、API Key、审计要求 |
| 运营信息 | 配额、Token 或资源计量、成本归属 |
| 生命周期 | 发布时间、变更记录、弃用日期、替代服务 |
字段不完整时,可以允许进入草稿或评测状态,但不应直接成为生产服务。
收集各团队使用的外部 API、私有模型、部署端点和共享服务,识别重复接入与无人负责的入口。
服务名称应表达任务与级别,而不是只复制厂商型号。底层模型变化时,稳定的服务名称可以减少应用改造。
发布前检查数据边界、评测结果、容量、授权、计量和责任人。审核不是一次性盖章,而是确定服务进入哪个生命周期状态。
目录中的“可见”不等于“可调用”。用户发现服务后,仍需根据租户、部门、项目或应用申请授权,并获得可追溯的访问凭证。
每项服务需要明确计量单位、采集位置、失败调用处理和配额规则。否则目录扩大后,平台无法解释谁在消费、消费多少。
版本升级应包含评测、灰度、通知和回滚。弃用状态要给出替代服务和迁移窗口;下线后回收授权与 Key。
AGIOne 的模型服务层可承接外部模型、私有模型和部署模型的服务化入口,并把目录与统一 API、发布审核、授权、API Key、策略路由、Token 计量和运营分析连接起来。
关键不是把更多模型放进页面,而是使部署结果能够进入可发布、可授权、可调用和可计量的生命周期。
可以用以下问题验收:
只要其中一项长期缺失,目录就可能退化为静态清单。
模型市场偏向发现和展示;服务目录还需连接发布、授权、API、配额、计量、变更和下线。
可以。例如不同数据边界、容量、版本或支持等级可以形成不同服务,但要避免没有治理差异的重复条目。
稳定服务名通常不必绑定具体版本。版本应作为服务契约和变更记录管理,关键升级再通过新服务或版本标识暴露。
应由能对服务质量、变更和运营结果负责的团队担任,而不是仅由最初接入模型的个人承担。
取决于企业运营模式。即使不展示内部价格,也应明确计量单位、预算或配额边界。
先选择使用量高、跨团队复用价值高的模型入口建立首批服务卡,再逐步连接授权、计量和生命周期流程。相关内容包括多模型统一管理、API Key 管理和模型服务生命周期管理。