在SILK编码库的SDK内,test目录下,有一个Decoder.c文件,为解码的示例文件,编译后它能直接解码SILK格式的音频文件:SILK文件格式以"#!SILK_V3"开始,之后为一帧帧语音内容块,每帧帧长占两字节,后为帧内容,因为SILk编码是变长编码,所以每帧长度不同。
在各个test_vectors\bitstream目录下的.bit文件,即为SILK格式文件,可以被解码程序Decoder.c支持。解码程序将SILK文件解码为PCM流文件,但缺少WAV头,无法直接用播放器播放。如果需要使解码后的PCM流能够播放,则需要PCM流前面添加WAV头。
对微信语音短消息,WAV头赋值如下(pcmsize为PCM流的字节数):whead.DataLen = pcmsizememcpy(whead.Riff,"RIFF",4)memcpy(whead.Format,"WAVE",4)memcpy(whead.SubChunkID,"fmt ",4)memcpy(whead.Data,"data",4)whead.ChunkSize =whead.DataLen+44-8whead.SubChunkSize = 0x10whead.AudioFormat = 1whead.NumChannels = 1whead.SampleRate = DecControl.API_sampleRatewhead.BitsPerSample = 16whead.BlockAlign = whead.NumChannels*whead.BitsPerSample/8whead.ByteRate = whead.SampleRate*whead.BlockAlign
其中NumChannels、SampleRate和BitsPerSample等参数需要根据具体情况进行填充,否则,声音会很怪异。
在语音相关的协议还原中,经常会遇到语音编码的问题,通常语音编码的数据无法直接展示,需要转换成WAV,MP3等格式,才能播放。这个转换过程,是首先将音频编码数据使用对应解码库解码为PCM流,然后再将PCM流根据封装格式的要求,进行编码封装,最后得到可供通用播放器支持的编码和格式。
音频编码有很多,各有特色,本文首选介绍目前最流行的SILK编码。SILK编码最早在Skype中使用,它在编码效率和质量之间取得了很好的平衡,因此被广泛应用在互联网的音频相关产品中,目前广泛使用的是SILK V3。
腾讯系产品,包括QQ、微信、小程序,在语音相关的实现中,也大量使用到SILK编码,并且,部分功能是直接让未加密的语音流在网络中传输,这是协议还原很感兴趣的部分。毕竟,腾讯的产品防守相当严密,不宜突破。
1、 Lattice
① 它是一个FST;
② 输入:transition-ids 输出:词
③ 权重(weights):图代价( graph cost ) + 声学代价 ( acoustic cost )
2、 CompactLattice (本质上包含了和Lattice相同的信息)
① 它是acceptor(输入域输出符号始终相同,均为词)
② 权重(weights): 一对浮点数(Lattice中的权重 )+ 一个整数序列(transition-ids)
3、读取 Lattice 和 CompactLattice 均可用 SequentialLatticeReader。
两者之间转换可使用 ConvertLattice()
4、Lattice 和 CompactLattice 类型被当做数据结构来表示传统的网络,也用于表示 N-best 列表
5、网络上很多算法(如取最优路径,或剪枝)用Lattice 类型比 CompactLattice 类型效率更高。
这是因为 CompactLattice 类型的权重包括了transition-ids 序列(比较难处理)。
像取最有路径的 *** 作,会将权重相乘,对应着序列相加 。
6、对很多算法来说,时间复杂度是网格长度的平方
7、Lattices 通常以 CompactLattice 的形式存储在 archive(档案)
而且惯例是 acoustic weights 不采用缩放(存储的时候不缩放)
所以当对 acoustic weights 做敏感的运算(如剪枝),对应的命令行会有 --acoustic-scale 选项 (在 thch30 例子中是0.1 or 0.08333333),并在进行运算前缩放,运算结束后缩放回来。
ps: 思考:根据第7点,调节 --acoustic-scale 参数对模型调优有没有帮助?
1、 LexicographicWeight 首先比较第一个元素并用第二个元素打破平局
2、 LatticeWeight 首先比较和值,用差值打破平局
3、根据 1和2 可知,LatticeWeight(a,b) 与 LexicographicWeight(a+b, a-b)等价
4、LatticeWeight 的意图是取总代价(graph+acoustic cost)最小的,同时分别记住 graph cost 和 acoustic cost
5、之所以不用 LexicographicWeight 代替 LatticeWeight 是因为 (graph+acoustic cost, acoustic cost)这样定义有些混乱
1、目前,生成 lattice 的唯一解码器是定义在 decoder/lattice-simple-decoder.h 中的类 LatticeSimpleDecoder ,它被 gmm-latgen-simple.cc 中调用
2、LatticeSimpleDecoder 是由 SimpleDecoder 修改得到的
SimpleDecoder 是 Veterbi beam search 算法的一个直接实现,只有一个可调参数 : pruning beam
LatticeSimpleDecoder 有一个更重要的可调参数: lattice beam (也可称为 lattice-delta ),一般比 pruning beam 小
3、基本框架是:
① LatticeSimpleDecoder 先生成一个状态级网络;
② 然后用 lattice-delta 剪枝;
③ 最后执行 determinization算法,对每个词序列仅保留最优路径
4、在 SimpleDecoder 中,有引用计数的回溯(reference-counted tracebacks)
在 LatticeSimpleDecoder 中,单个回溯是不够的,因为网格具有更复杂的结构。
实际上,存储前向链接比后向链接更方便。
为了释放 lattice-delta pruning(剪枝) 时不需要的链接,我们需要做的比引用计数更多,实际上也没有做引用计数。
1、 pruning lattices (剪枝)
网格可以用一个设定的 pruning beam 来剪枝。这会去掉和网格中最优路径的代价相差不够小的那部分 arcs(弧) 和 states
2、 lattice composition (组合)
① 组合网格
这是在转换器(tansducer)形式下完成的。例如可以把网格看做 transition-ids 到 words 的一个转换器
② 组合网格和一个固定的FST (是指网格和 HCLG.fst 的组合吗?)
为了这个目的, FST 被动态地转换为网格;FST的权重解释为网格权重的 "graph part"
3、有些时候我们不需要网格结构而是需要最佳路径或 N-best 路径
N-best 列表的格式和网格一样,除了每个句子有多个 FSTs (如果设定了n,最多 n 个)
4、如果想要网格的时间信息
① LatticeStateTimes 函数 (for lattice)
② CompactLatticeStateTimes 函数 (for CompactLattice)
根据之前看的资料,总结了一个基于 kaldi 的 ASR 和 KWS 流程,只是个人见解,可能存在不对的地方。
1、wav2features 首先提取音频特征(训练不同的模型需要的特征不一样)
2、提取的特征根据声学模型 (final.mdl ?) 得到 phones or HMM states
3、根据 phones or HMM states 得到 lattices
4、把 lattice 和 HCLG.fst 组合得到新的 FST,再从中得到 N-best 路径
5、根据最佳路径得 ASR 解码结果;
根据 N-best 路径搜索关键词。
/*** pcm2wav.c
* add wav head for pcm data
*/
#include <stdio.h>
#include <string.h>
//wav头的结构如下所示:
typedef struct {
char fccID[4]
unsigned long dwSize
char fccType[4]
}HEADER
typedef struct {
char fccID[4]
unsigned long dwSize
unsigned short wFormatTag
unsigned short wChannels
unsigned long dwSamplesPerSec
unsigned long dwAvgBytesPerSec
unsigned short wBlockAlign
unsigned short uiBitsPerSample
}FMT
typedef struct {
char fccID[4]
unsigned long dwSize
}DATA
void show_usage()
{
printf("PCM 2 WAV usage\n eg:pcm2wav pcm_file wav_file channels sample_rate bits\n")
}
int main(int argc, char **argv)
{
char src_file[128] = {0}
char dst_file[128] = {0}
int channels = 1
int bits = 16
int sample_rate = 22050
//以下是为了建立.wav头而准备的变量
HEADER pcmHEADER
FMT pcmFMT
DATA pcmDATA
unsigned short m_pcmData
FILE *fp,*fpCpy
if (argc <5)
{
show_usage()
return -1
}
sscanf(argv[1], "%s", src_file)
sscanf(argv[2], "%s", dst_file)
sscanf(argv[3], "%d", &channels)
sscanf(argv[4], "%d", &sample_rate)
if (argc>6)
{
sscanf(argv[5], "%d", &bits)
}
printf("parameter analyse succeess\n")
if((fp=fopen(src_file, "rb")) == NULL) //读取文件
{
printf("open pcm file %s error\n", argv[1])
return -1
}
if((fpCpy=fopen(dst_file, "wb+")) == NULL) //为转换建立一个新文件
{
printf("create wav file error\n")
return -1
}
//以下是创建wav头的HEADER但.dwsize未定,因为不知道Data的长度。
strcpy(pcmHEADER.fccID,"RIFF")
strcpy(pcmHEADER.fccType,"WAVE")
fseek(fpCpy,sizeof(HEADER),1)//跳过HEADER的长度,以便下面继续写入wav文件的数据
//以上是创建wav头的HEADER
if(ferror(fpCpy))
{
printf("error\n")
}
//以下是创建wav头的FMT
pcmFMT.dwSamplesPerSec=sample_rate
pcmFMT.dwAvgBytesPerSec=pcmFMT.dwSamplesPerSec*sizeof(m_pcmData)
pcmFMT.uiBitsPerSample=bits
strcpy(pcmFMT.fccID,"fmt ")
pcmFMT.dwSize=16
pcmFMT.wBlockAlign=2
pcmFMT.wChannels=channels
pcmFMT.wFormatTag=1
//以上是创建wav头的FMT
fwrite(&pcmFMT,sizeof(FMT),1,fpCpy)//将FMT写入.wav文件
//以下是创建wav头的DATA 但由于DATA.dwsize未知所以不能写入.wav文件
strcpy(pcmDATA.fccID,"data")
pcmDATA.dwSize=0//给pcmDATA.dwsize 0以便于下面给它赋值
fseek(fpCpy,sizeof(DATA),1)//跳过DATA的长度,以便以后再写入wav头的DATA
fread(&m_pcmData,sizeof(unsigned short),1,fp)//从.pcm中读入数据
while(!feof(fp)) //在.pcm文件结束前将他的数据转化并赋给.wav
{
pcmDATA.dwSize+=2//计算数据的长度;每读入一个数据,长度就加一;
fwrite(&m_pcmData,sizeof(unsigned short),1,fpCpy)//将数据写入.wav文件
fread(&m_pcmData,sizeof(unsigned short),1,fp)//从.pcm中读入数据
}
fclose(fp)//关闭文件
pcmHEADER.dwSize=44+pcmDATA.dwSize //根据pcmDATA.dwsize得出pcmHEADER.dwsize的值
rewind(fpCpy)//将fpCpy变为.wav的头,以便于写入HEADER和DATA
fwrite(&pcmHEADER,sizeof(HEADER),1,fpCpy)//写入HEADER
fseek(fpCpy,sizeof(FMT),1)//跳过FMT,因为FMT已经写入
fwrite(&pcmDATA,sizeof(DATA),1,fpCpy) //写入DATA
fclose(fpCpy) //关闭文件
return 0
}
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)