模型服务生命周期管理覆盖模型接入、评测、发布、授权、调用、计量、变更、弃用和下线。它管理的不是一个静态模型文件,而是一项持续被业务消费的服务。每个阶段都应有明确状态、责任人、准入条件、证据和退出路径。
模型能够启动实例,只证明技术上可以运行。进入企业生产还需要回答:
如果这些问题没有进入统一流程,模型会变成长期存在但无人负责的端点。
| 阶段 | 核心任务 | 退出条件 |
|---|---|---|
| 需求登记 | 明确任务、责任人和数据边界 | 需求可评测 |
| 模型接入 | 记录来源、版本、许可和接口 | 资产信息完整 |
| 评测验证 | 验证质量、安全、延迟和成本口径 | 达到最低门槛 |
| 部署准备 | 选择环境、规格、镜像和容量 | 可重复部署 |
| 服务发布 | 定义服务名、API、SLO和可见范围 | 发布审核通过 |
| 授权运营 | 分配Key、配额并采集计量 | 可追溯消费 |
| 变更弃用 | 灰度升级、通知、替代和迁移 | 使用方完成迁移 |
| 下线归档 | 停止调用、回收资源和权限 | 审计记录保留 |
阶段可以适配企业流程,但不能只有“接入”和“在线”两个状态。
至少记录:
这些字段应随着状态变化更新,而不是发布前一次填写。
评测不应只看通用榜单。企业需要基于真实任务定义质量、格式遵从、拒答、安全、延迟和成本指标。不同风险等级的服务可以采用不同门槛:
评测结论应带版本与日期,因为模型、提示词和运行环境都会变化。
模型版本、推理参数、系统提示、路由和部署规格都可能改变结果。变更流程至少包括影响分析、重新评测、灰度范围、监测、回滚和通知。
弃用不是立即删除。应先标记状态、停止新授权、公布替代服务与迁移窗口,再回收API Key、部署实例和资源配额。
模型生命周期偏模型资产与训练版本;模型服务生命周期还覆盖部署、发布、授权、调用、计量和运营。
应按变更风险决定范围。影响输出、接口、部署或路由的变更至少需要针对性回归验证。
不应。运行实例和凭证应回收,但必要的版本、审批、调用和审计记录需按企业政策保留。
需要。虽然基础设施由供应方运行,企业仍需管理接入、服务契约、权限、评测、成本、变更和退出。
从现有模型服务目录中选择一项生产服务,补齐八个阶段的状态、责任人与退出条件,再形成组织级模板。