当视频生成跑赢播放:VDN-H3如何用混合注意力重新定义实时AI视频
一个被忽视的瓶颈
2026年8月,MiniMax H3正式开源,33B参数的扩散Transformer、2K分辨率、15秒时长、原生立体声音频——参数表足够惊艳。但真正把H3跑起来的人很快会发现一个尴尬的现实:生成一段14秒的视频,等待时间可能比视频本身还长。
问题的根源不在于模型不够好,而在于架构本身。视频扩散模型在去噪过程中需要反复处理长时空Token序列,标准的Softmax注意力机制在序列长度上呈二次方增长——序列越长,计算量越爆炸。而视频恰恰是典型的“长序列”场景:每一帧都包含大量空间Token,几十帧叠加后,注意力的计算开销会迅速成为整个流程的瓶颈。
这正是Video DeltaNet(VDN)试图解决的问题。加州大学伯克利分校、Impossible, Inc和德克萨斯大学奥斯汀分校的研究团队没有选择“优化调度”这条常规路线——减少去噪步数、优化采样器——而是直接对注意力架构动了刀。
混合注意力:两条腿走路
VDN的核心思路可以用一句话概括:不是所有注意力都需要“全局”。
传统Softmax注意力让每一帧的每个Token去“看”序列中所有其他Token,这在需要精确空间交互的局部区域是必要的,但在处理远距离帧间关系时,大部分计算被浪费在了不重要的连接上。VDN的做法是把注意力拆成两条并行分支:
第一条是滑动窗口Softmax分支,负责邻近帧之间的精细交互。这部分保留了原始H3的注意力质量,确保画面细节和空间一致性不受影响。
第二条是逐帧线性注意力分支,专门承载长程上下文。这条分支引入了一个叫“Video Delta At