Megatron-LM 静态推理回归测试全解析：Gold Standard Prompts 多提示词 Token 匹配验证实战
2026/9/14 19:03:44
MLIR的Checkpointing（检查点）与恢复机制
一个让我熬夜到凌晨三点的bug
去年做AI编译器的时候，遇到一个诡异的崩溃：模型训练到第47个epoch，MLIR的pass pipeline跑到一半，突然段错误。重启后从头开始，又到第47个epoch，同样的位置，同样的崩溃。更气人的是，第46个epoch的checkpoint恢复后，一切正常，但跑到第47个epoch就死。
排查了三天，最后发现是MLIR的checkpointing机制在保存中间IR状态时，没有正确处理某些Operation的lazy materialization状态。恢复时，那些本该被延迟展开的tensor操作，被错误地提前展开了，导致后续pass无法处理。
这个坑让我意识到，MLIR的checkpointing远不是“保存-加载”那么简单。今天就把这些血泪经验写下来。
Checkpointing在MLIR中的真实定位
很多人以为MLIR的checkpointing就是序列化整个ModuleOp。错。MLIR的checkpointing核心解决的是中间表示状态的增量保存与恢复，特别是在长时间运行的pass pipeline中，某个pass失败后，能从最近的有效状态恢复，而不是从头重跑。
MLIR的PassManager内部维护了一个状态栈。每个pass执行前，框架会记录当前IR的“快照”。但这个快照不是全量复制——MLIR用了copy-on-write和lazy clo