AI 跳舞视频最长 15 秒就崩——阿里把它拉到了 1 分钟,但 8 张 A800 的账单你看过吗
你用 AI 生成一段舞蹈视频。前 5 秒还行,动作流畅,节奏对得上。到第 10 秒,人物开始变形。到第 15 秒,动作重复,节奏漂移,整个人像卡了壳的木偶。
这不是某个模型的问题——这是所有 AI 舞蹈视频生成模型的通病。AniDance、EDGE、Bailando,无一例外,时长天花板就在 5-15 秒。再长,时间漂移、身份不一致、动作重复,三座大山压下来。
2026 年 7 月 13 日,阿里通义实验室开源了 Wan-Dancer——一个分层架构的音乐驱动舞蹈视频生成模型。它把时长天花板从 15 秒拉到了 1 分钟以上,分辨率 720p,帧率 30fps,节奏和音乐精确对齐。
但 8 张 A800 80GB 的训练配置,和 14B 参数模型推理所需的 54GB 显存,让"开源"这个词有了新的含义。
15 秒魔咒:为什么之前的模型都卡在这里
现有舞蹈视频生成模型有三种路线,每种都有自己的死穴:
3D 骨骼路线(EDGE、Bailando):先生成 3D 骨骼序列,再渲染成视频。骨骼生成可以很长,但渲染时人物身份漂移——10 秒后你的人物已经不是原来那个人了。
端到端路线(AniDance):直接从音乐生成视频,跳过骨骼中间步骤。身份保持更好,但扩散模型的时间注意力窗口有限——超过 15 秒,模型"忘记"了前面的动作,开始重复或漂移。
拼接路线:把多个短视频拼起来。拼接处动作不连贯,节奏断裂,看起来像剪辑失误而不是一支完整的舞。
核心矛盾:扩散模型的时间注意力窗口 vs 舞蹈的长时序连贯性。一支舞是一个整体——开头的一个转身和结尾的一个定格是呼应的。但扩散模型只能"看到"有限的时间窗口,无法做全局规划。
分层架构:先编舞,再跳舞
Wan-Dancer 的核心思路是把"编舞"和"跳舞"拆成两步:
第一步:全局关键帧规划。 模型先听完整首歌,根据整首歌的节奏和结构,生成 38 个关键帧。这些关键帧定义了整支舞的骨架——哪里是高潮动作,哪里是过渡,哪里是收尾。
第二步:局部时序精修。 以每个关键帧为锚点,对周围 149 帧做局部精修。每个片段内部动作连贯、细节丰富,片段之间通过关键帧保证全局一致性。
最终拼接成一个完整视频。
整首歌 → 全局规划(38关键帧)→ 局部精修(每帧周围149帧)→ 拼接 → 完整视频
这就像编舞的工作方式:先定整体结构(起承转合),再填充每个段落的细节。全局规划解决了"跳什么动作",局部精修解决了"动作怎么连贯"。两段各管一段,时间漂移和动作重复的问题就被分治了。
三个技术细节,决定它能不能跑通
1. 动态帧率适配:让模型"知道"现在是第几秒
不同长度的音乐,关键帧数量不一样。长歌多放几个关键帧,短歌少放几个。但问题是:模型怎么知道当前帧在整个时间线上的位置?
Wan-Dancer 的做法是把绝对时间 ID 直接注入旋转位置编码(RoPE)。说白了就是让模型"知道"当前是第几秒,而不是靠猜帧的位置。这样不管音乐多长,生成的舞蹈都能精确对齐节拍。
这不是一个花哨的技巧——这是长时序生成的必要条件。没有时间锚点,模型在长序列中必然漂移。
2. 光流损失函数:快速动作不模糊,慢动作不跳帧
训练时除了看画面本身对不对,还要看相邻帧之间的运动是否合理。光流损失函数就是干这个的——它约束帧间运动场的连续性。
快速动作时,光流约束防止模糊;慢动作时,光流约束防止跳帧。这个损失函数让动作过渡更自然,尤其是在节奏变化剧烈的段落(比如从慢板突然进入快板)。
3. 运动速度控制:快动作不丢细节
舞蹈视频有个特殊问题:快速动作时,帧间位移大,模型容易丢失细节(手指、脚尖、面部表情)。Wan-Dancer 加了运动速度控制模块,在快速动作时自动调整去噪策略,保留高保真细节。
底层架构:站在 Wan-I2V 的肩膀上
Wan-Dancer 不是从零开始的。它的底层是阿里自己的 Wan-I2V的 Wan-I2V(Image-to-Video)模型,加了几个模块:
| 模块 | 职责 |
|---|---|
| 轻量级音乐编码器 | 从音频提取节奏、节拍特征 |
| umT5 文本编码器 | 512 token,指定舞蹈风格(古典/街舞/K-Pop/踢踏/拉丁) |
| CLIP 图像编码器 | 编码参考图片,决定跳舞的人长什么样 |
| Wan-I2V 14B | 视频生成主干 |
训练分两阶段:
- 预训练:320×544 低分辨率,20,000 步,学"怎么跟着音乐跳"
- 微调:原生 720p 视频,4,000 步,提升画质
推理也分两段:先跑全局 38 关键帧,再对每个关键帧周围 149 帧做局部精修。最终拼接成 720p/30fps、超过 1 分钟的完整视频。
竞品横评:5 个舞蹈视频方案,谁在哪个赛道
| 方案 | 最大时长 | 分辨率 | 节奏对齐 | 身份保持 | 开源 | 许可 |
|---|---|---|---|---|---|---|
| Wan-Dancer | 60s+ | 720p | ✅ 精确 | ✅ | ✅ | Apache 2.0 |
| EDGE | ~10s | 512×512 | 一般 | ❌ 漂移 | ✅ | MIT |
| Bailando | ~15s | 512×512 | 一般 | ❌ 漂移 | ✅ | MIT |
| AniDance | ~10s | 512×512 | 较好 | ✅ | ✅ | Apache 2.0 |
| Kling 舞蹈模式 | ~10s | 1080p | 一般 | ✅ | ❌ | 闭源 |
| Seedance 2.0 | ~15s | 1080p | 较好 | ✅ | ❌ | 闭源 |
关键发现:Wan-Dancer 是唯一同时做到"60秒+时长 + 720p + 精确节奏对齐 + 开源"的方案。 闭源竞品在画质上有优势(1080p),但在时长和节奏对齐上不如 Wan-Dancer。
但这个优势的代价是——14B 参数模型。
代价清醒
8 × A800 80GB 训练配置。 论文和 README 明确写了测试环境:8 张 A800 80GB。这不是消费级硬件——这是企业级 GPU 集群。一张 A800 80GB 售价约 10 万人民币,8 张就是 80 万。训练成本对个人开发者和小团队来说,基本不可及。
推理显存 54-65GB(FP16)。 14B 参数模型在 FP16 精度下推理需要 54-65GB 显存。这意味着你需要至少一张 A100 80GB 或两张 4090(24GB×2,但需要模型并行)。FP8 量化可以降到 8GB 跑 480p——但 480p 的舞蹈视频,画质和 720p 差距明显。
2 个贡献者,3 次提交。 GitHub 仓库 7 月 13 日创建,目前只有 jackieyung(2次)和 suruoxi(1次)两个贡献者。3 次 commit 都是初始化和更新链接。代码刚开源,没有 Issue、没有 PR、没有社区讨论。巴士因子 = 1。
没有 ComfyUI 节点。 目前 Wan-Dancer 只能通过 shell 脚本运行(gen_video_global.sh + gen_video_local.sh)。没有 ComfyUI 节点、没有 WebUI、没有 Gradio demo(ModelScope Space 有一个)。对于习惯了 ComfyUI 工作流的用户,集成门槛不低。
5 种舞蹈风格,但泛化能力未知。 论文验证了古典舞、街舞、K-Pop、踢踏舞、拉丁舞五种风格。但其他风格(芭蕾、爵士、民族舞、广场舞)的效果没有数据。舞蹈风格的数据分布不均——古典舞和街舞的训练数据可能远多于踢踏舞。
拼接痕迹可能存在。 分层架构的核心是"全局关键帧+局部精修+拼接"。拼接处的过渡质量取决于关键帧的密度和精修的重叠区域。论文没有详细讨论拼接痕迹的问题——在实际使用中,这可能是肉眼可见的。
Apache 2.0 许可——商用友好,但模型权重许可可能不同。 代码是 Apache 2.0,但模型权重的许可通常由发布方单独规定。HuggingFace 上的 Wan-Dancer-14B 权重许可需要确认——如果包含商业限制,"开源"的含金量就打了折扣。
判断
Wan-Dancer 的核心贡献不是"画得更好",而是把舞蹈视频的时长天花板从 15 秒拉到了 1 分钟以上。分层架构(全局规划+局部精修)是解决长时序生成问题的正确思路——先想清楚再画,比边想边画靠谱。
动态帧率适配(time-mapped RoPE)和光流损失函数是两个值得关注的工程细节。前者解决了长序列的时间锚点问题,后者解决了动作连贯性问题。这两个技术不限于舞蹈视频——任何长时序视频生成都可能借鉴。
但 14B 参数 + 8×A800 训练 + 54GB 推理显存,让"开源"的门槛高得离谱。个人开发者和小团队大概率只能用 ModelScope Space 的在线 demo 跑一跑,本地部署的成本远超承受范围。FP8 量化降到 8GB 可以跑 480p——但 480p 的舞蹈视频,和 720p 的差距不是"稍微模糊",而是"能不能看清手指"的差距。
如果你是舞蹈内容创作者,需要 1 分钟以上的完整舞蹈视频,Wan-Dancer 目前是唯一选择——但准备好为算力买单。如果你只需要 5-10 秒的舞蹈片段,EDGE 或 AniDance 在消费级 GPU 上就能跑,成本更低。如果你是研究者,分层架构和 time-mapped RoPE 值得深入研读——这两个技术有更广泛的应用前景。
Wan-Dancer 证明了长时序舞蹈视频生成是可行的。但"可行"和"可用"之间,还隔着一张 A100 的价格。
相关链接:
- GitHub 仓库:https://github.com/Wan-Video/Wan-Dancer
- 论文:https://arxiv.org/abs/2607.09581
- 项目主页:https://humanaigc.github.io/wan-dancer-project/
- HuggingFace 模型:https://huggingface.co/Wan-AI/Wan-Dancer-14B
- ModelScope 在线体验:https://modelscope.ai/studios/Wan-AI/Wan-Dancer
- Wan 2.1 VRAM 指南:https://willitrunai.com/blog/video-generation-gpu-guide-2026
- 源文章(7号AI栈):https://mp.weixin.qq.com/s/3R7VLu8lGjOs4mRxGOCGkw
暂无评论。