AI Infra 实验路线
- 目标：从一条请求出发，建立可解释、可测量、可复现的单机推理系统。
- 进度：Phase 1 Passed；Phase 2 Current。
- 当前：M2-C · Cached MHA（2026.09.01 · 120 min）
- 当前任务书 | 当前工作表 | Starter | 公开 Lab
阶段路线
- Phase 1LLM Serving 请求链路与可复现基线（Passed · 2026.07.27 — 2026.08.11）
- Phase 2推理机制、调度与 vLLM 性能工程（Current · 2026.08.12 — 2026.09.12）
实验方法
- Question / Prediction：每轮只回答一个可证伪问题，并在运行前写下趋势、Shape 或状态变化。
- Implement / Grade：一次只增加一个变换，用定向测试、完整回归和原始数据验收。
- Checkoff：脱离代码解释机制、复现结果并修改约束，通过后才进入下一层。
材料与边界
- 路线：只描述依赖、当前 Gate 与完成标准；具体机制进入文章和任务书阅读。
- 公开 Starter：下载者修改压缩包中的
src/，使用公开测试与评分入口验收。 - 本地实现：维护者的答案仅保存在被忽略的
.work/src/，不会进入网站和下载包。 - 证据：测试、日志、原始数据与可重建结果决定实验结论，阅读本身不计完成。
完成标准
- Phase 1：能够闭卷画出请求链路，独立启动服务、复跑长度扫描，并用环境、负载、指标和原始证据限定结论。
- Phase 2：完成 P0、M0–M2、S0–S4 与 F0：正确性测试通过、原始数据可重建、客户端和服务端证据能够共同支持最终结论。
- 当前唯一行动：完成 M2-C · Cached MHA；未通过时只修正当前 Gate。