Video Diffusion Inference Optimization

GB200 · 端到端加速消融 + Baseline vs Full-Opt 生成对比 · 同 seed / 同配置 / median

① 加速方法与各方法贡献 (Ablation)

Wan2.2 TI2V-5B

单卡 · 704×1280 · 121 帧 · 50 步

2.885×

70.25s → 24.35s (baseline → full-opt)

方法	系数
Kernel regional-compile + qkv-fusion + cross-kv-cache + bf16-glue（无损）	1.52×
Cache EasyCache 0.036（47% 步复用）	1.90×
Attention (PISA)	弃(0.85×)

Wan2.2-A14B (14B)

4-GPU CP4 · 720×1280 · 81 帧 · 40 步

2.19×

同拓扑纯优化：~129s (CP4) → 58.89s

方法	系数
Kernel fused-qkv + compiled + async a2a（CP4 通信稀��）	1.12×
Cache EasyCache 0.30（35% 复用）	1.52×
Attention PISA density 0.10	1.28×

LingBot-Video (MoE 30B-A3B)

4-GPU CP4+FSDP · base 480p → refiner 1080p

2.6×

同拓扑纯优化：375.53s → 144.36s

方法	系数
Attention backend fa2 → cuDNN（base+refiner；无独立通用 kernel 优化）	1.79×
Attention sparsity refiner-only PISA 0.10（替换 refiner 的 cuDNN）	1.12×
Cache EasyCache base(1.18×) + refiner(1.10×)	1.30×

系数为增量口径（每个方法在前一个之上），相乘 ≈ 该模型总加速。各模型主导方法不同：5B=Cache 主导、14B=Cache+Attention、LingBot=Attention-backend(fa2→cuDNN) 主导。注意 LingBot 没有独立的通用 kernel 优化：1.79× 就是 attention backend 更换，PISA 再在 refiner 把 cuDNN 换成稀疏 attention —— 两项都是 attention 改动。PISA 只在大注意力上有效（14B / LingBot-refiner ✓；5B ✗）。