音频 Tokenizer 开源训练库盘点:EnCodec、DAC、FunCodec、SpeechTokenizer 与 WavTokenizer 对比
音频 Tokenizer 开源训练库盘点:EnCodec、DAC、FunCodec、SpeechTokenizer 与 WavTokenizer 对比前言随着 MusicGen、AudioGen、VALL-E、SpeechGPT 等生成式音频模型的发展,音频 Tokenizer 已经成为音频生成系统中的关键组件。它的作用与大语言模型中的文本 Tokenizer 类似:将连续音频波形压缩为离散 Token,供 Transformer、扩散模型或其他生成模型进行建模。典型流程如下:Audio Waveform ↓ Encoder ↓ Continuous Latent ↓ Vector Quantizer ↓ Discrete Audio Tokens ↓ Transformer / Audio LM与文本 Tokenizer 不同,音频 Tokenizer 通常需要同时完成以下任务:压缩音频序列长度;保留语音内容、音色和环境信息;支持高质量波形重建;为生成模型提供稳定的离散表示;在码率、重建质量和 Token 数量之间取得平衡。本文整理几个最经典、最常用,并且提供训练代码的