推理速度25fps，首帧延迟3.5s！商汤SekoTalk：让实时语音数字人更近一步

在数字人技术蓬勃发展的今天，生成效率仍是行业面临的核心挑战。商汤科技凭借在生成式 AI 与多模态交互领域的深厚积累，推出了实时语音驱动数字人技术——SekoTalk。

通过多方面的创新技术，SekoTalk显著提升了数字人视频的生成效率，在8卡服务器上可以达到25 fps的生成速度，首帧延迟低至3.5s，在业内率先实现了实时生成。同时，SekoTalk还能支持多人、多语言的口型精准匹配，和超长时的稳定生成。这一技术突破了数字人发展的性能瓶颈，为数字人的大规模、实时应用打开更多可能。

SekoTalk今年8月上线，应用在商汤Seko、影数字人等产品中，已助力用户创作出数十万部作品，并诞生了全网播放量超2000万播放的爆款作品。

算法系统协同：实现极致性价比突破

生成效率是数字人走向实用化的关键，而实时性又是生成效率的北极星。SekoTalk通过模型蒸馏，模型结构优化，以及模型与系统的协同设计，在保证生成质量的前提下，实现推理效率的跨越式提升。

与其它方案相比，SekoTalk展现出卓越的性价比优势：开源模型生成一段5s视频通常超过十分钟，商用闭源模型生成5s的视频通常也需1至10分钟不等。相比之下，SekoTalk在8卡服务器上可以达到25 fps的生成速度，即便将SekoTalk与多模态模型相结合，整体系统的首帧延迟也可低至3.5s。

Phased DMD分布匹配蒸馏技术，无限逼近base模型效果：

以往的扩散模型蒸馏经验发现，扩散模型低步数生成的质量受到等效模型容量的制约。而主流的SOTA视频生成模型已经证明混合专家(MoE)技术在扩散模型领域的巨大潜力：不增加推理开销的同时，增大等效模型容量，进而导致更强的性能表现。

然而，MoE技术在扩散模型蒸馏中的应用尚未得到探索。商汤科技团队发现，简单地将分布匹配蒸馏(DMD)应用到MoE模型中，会导致生成视频的运动效果和指令遵循能力下降。

为了解决这一问题，研究团队提出了Phased DMD技术，把去噪过程建模为多阶段的MoE模型。Phased DMD不仅原生支持MoE模型，而且对于非MoE的教师模型，该技术也可以将之蒸馏为MoE学生模型。

这一技术显著提升了蒸馏模型生成的动态效果和多样性，使SekoTalk推理开销在降低25倍的情况下，仍保持教师模型良好的肢体运动效果和情绪表现力。除了应用于SekoTalk，Phased DMD也对开源社区常用的基模型进行了蒸馏并贡献回开源社区，相关优势也得到开源社区的认可，进一步证明了Phased DMD的通用性和有效性。

LightX2V与模型协同设计，支持低资源部署：

LightX2V是商汤开源的行业首个能够达到实时视频生成的推理框架。在模型和系统设计之初，就让它们融入低比特量化感知训练、稀疏注意力等原生优化，配合自研“SPARSE+NVFP4+低比特通信”高效注意力算子，模型训练完成后可直接低资源部署。

从测试数据来看，在不同GPU硬件环境下，LightX2V均能实现SekoTalk 的高效推理，为不同场景的落地提供灵活支撑。

声形同步：多语言+多人场景口型精准匹配

传统数字人技术在处理多语言、多人交互的复杂场景时，常出现口型与语音匹配不准的问题。SekoTalk通过一系列创新设计，实现了从单人口形到多人互动的高度精准的声形同步。

多语言高效同步：在2D数字人生成领域，一些工作沿用了早期的wav2vec2系列的预训练语音编码器来驱动角色。商汤团队根据在3D数字人语音驱动(UniTalker)中积累的算法经验，发现语音编码器的选择对于数字人驱动效果有极大影响。

为此，研究团队探究了包含wav2vec2,hubert,wavlm,whisper等多种语音编码器在2D数字人驱动中的性能表现，发现如果沿用wav2vec2系列的语音编码器，即使是多语言预训练的wav2vec2-large-xlsr-53，在英语口型驱动和多语言泛化性上的定量指标中也落后其他编码器。

通过细致的消融实验，SekoTalk使用了探究中表现最好的音频编码器，通过规模化的训练，SekoTalk在中英文、多种小语种、日常讲话、说唱等场景中上均取得了准确的驱动效果。

音视频帧率解耦，杜绝细节丢失：主流视频生成模型采用了“1+4N”时序压缩机制，为实现与与视频帧的严格同步，SekoTalk对音频处理分支进行了精细优化。它创新地将视频帧率(16-25fps）与语音特征帧率(50fps）解耦，避免了传统下采样放到带来的口型细节丢失，使得音频可以和任意帧率的视频在时序上对齐，保证音频与画面的高质量同步。

可支持中文/法语/日语/葡萄牙语/韩语等多语种语音驱动

多人场景高度可控：借助良好的模型泛化能力和创新的掩码注意力机制(Attention Mask)，SekoTalk可在多人对话场景中，独立、精准地控制每个角色的口型与动作，输出自然流畅的群组互动效果，拓展了技术的适用场景和应用潜力。

高效能、低成本的语音模块：类似文生视频中常常借助文本条件的Classifier-Free Guidance(CFG)来提升视频生成质量，在数字人生成领域中，以往工作也借助这一做法，使用语音条件的CFG来提升口型驱动的准确性，然而这相比于单独文本条件生成视频又多出了50%的计算开销。另一方面，类似于文本条件的CFG通常伴随着生成画面过饱和的问题，语音条件的CFG在提升口型驱动准确性的同时，通常也带来夸张不自然的人脸画面。商汤团队认为，通过更好的语音注入模块的设计，可以更本质地解决这一问题。结合DiT的设计经验，研究团队在语音模块中也引入了Adaptive Layer Normalization(AdaLN)，并且使用可学习参数的注入方式代替了Linear Projection，在保持表现力的前提下降低了计算开销。经过这些改进，SekoTalk模型无需借助语音条件的CFG，就可以达到准确的嘴形驱动。这一改进不仅降低了计算开销，同时也避免了语音条件的CFG带来的口型准确性和脸部画面自然性之间的取舍。