返回课程列表
Day 6
Week 1AI 架构基础与系统设计
模型服务化架构
20 分钟安排: 1. 5 分钟:写下你见过的"模型部署方式":脚本调用 / REST API / Batch 离线。 2. 10 分钟:盘一盘"模型升级"的问题: • 怎么灰度? • 怎么回滚? 3. 5 分钟:写一个简单"模型版本策略":v1 → v1.1 → v2。
🎯学习目标
- 1写下你见过的"模型部署方式":脚本调用 / REST API / Batch 离线
- 2盘一盘"模型升级"的问题:怎么灰度?怎么回滚?
- 3写一个简单"模型版本策略":v1 → v1.1 → v2
💡核心概念
MaaS(Model-as-a-Service):模型就是一个 API,谁用谁调模型版本控制:不同实验对应不同版本,线上版本必须可追溯对应训练数据 & 配置灰度发布:按用户比例 / 按流量比例分流不同模型版本
🛠实战提示
设计一个简单 JSON 结构存模型版本信息:model_name, version, created_at, metric, status。想象一个路由层:根据 version/策略选择调用哪个模型。
✅20 分钟安排
1. 5 分钟:
2. 10 分钟:
怎么灰度?
怎么回滚?
3. 5 分钟:
📚学习资源
📝学习笔记
还没有笔记,开始记录你的学习心得吧