Kandinsky 6.0 Video:同步音视频生成基础模型
原标题:Paper page - Kandinsky 6.0 Video: Foundation Models for Synchronized Video and Audio Generation
AI 摘要
Kandinsky 6.0 Video 是一系列用于同步文本到音视频生成的基础扩散模型,包含 3B 参数的 Lite 版和 29B 参数的 Pro 版,可生成 5 秒带 44 kHz 同步音频(含唇形同步)的视频,并支持 T2AV 与 I2AV 模式,内置超分辨率模型可将输出提升至 Full-HD。模型采用双流 CrossDiT 架构,通过双向交叉注意力连接预训练视频流与新训练音频流,并经过持续预训练、监督微调、强化学习后训练和蒸馏。人类评估显示 Pro 版明显优于 Kandinsky 5.0 Pro,在语音质量上与领先模型保持竞争力,且代码、权重和 Diffusers 集成以 MIT 许可开源。
正文节选
Kandinsky 6.0 Video: Foundation Models for Synchronized Video and Audio Generation Abstract We present Kandinsky 6.0 Video, a family of foundation diffusion models for synchronized text-to-audio-video generation, comprising Kandinsky 6.0 Video Lite (3B parameters) and Kandinsky 6.0 Video Pro (29B parameters). Both models generate 5-second video clips with synchronized 44 kHz audio, including lip-sync, in text-to-audio-video (T2AV) and image-to-audio-video (I2AV) modes; a built-in super-resolutio