http://index.cslt.org/mediawiki/index.php?action=history&feed=atom&title=Sinovoice-2016-1-27 2026-04-14T21:47:02Z 本wiki的该页面的版本历史 MediaWiki 1.23.3 http://index.cslt.org/mediawiki/index.php?title=Sinovoice-2016-1-27&diff=18861&oldid=prev 2016-01-27T06:58:03Z

<p>以“==数据== *16K 灵云数据 10000小时实际语料的标注目标，已立项400小时的标注； 语料从1000小时中，通过ASR打分，取出中间的400...”为内容创建页面</p> <p><b>新页面</b></p><div>==数据==<br /> <br /> *16K 灵云数据 <br /> 10000小时实际语料的标注目标，已立项400小时的标注；<br /> 语料从1000小时中，通过ASR打分，取出中间的400小时；<br /> <br /> *粤语标注了一个测试集，增量9小时，CER：54%；30h,50%<br /> 60h trained. no tag text to lm, CER 45%<br /> discard english text;<br /> <br /> *维语<br /> 已完成120小时；last train 50h;<br /> 16K标注，灵云，180小时，收集验收；<br /> <br /> ===大模型===<br /> 1）16K10000小时的跑一个DNN训练，加深加宽：7层2400x10000 rectifier 保留英文<br /> <br /> MPE的训练:<br /> Condition: LM:1e-5/1e-9<br /> test_8000ju test_10000ju <br /> 6000H 600*4_800 xEnt : 15.16 28.03<br /> 6000H 600*4_800 mpe : 12.09 23.51<br /> 6776H 1200*4_10000 mpe : 9.48 18.07<br /> <br /> 10000H 600*4_800 xEnt（迭代21轮） : 15.91<br /> 10000H 600*4_800 xEnt（迭代完成） : 15.56 26.71<br /> 10000H 2048*7_12000 xEnt(迭代1.7轮) : 10.12<br /> 10000H 2048*7_12000 xEnt(迭代2.6轮) : 9.73<br /> 10000H 2048*7_12000 xEnt(迭代3.8轮) : 9.51<br /> 10000H 2048*7_12000 xEnt(迭代5.1轮) : 9.53<br /> 10000H 2048*7_12000 xEnt(迭代6.0轮) : 9.41 17.75<br /> 10000H 2048*7_12000 xEnt(700.mdl ) : 9.35 17.71<br /> 10000H 2048*7_12000 xEnt(800.mdl ) : 9.27 17.57<br /> 10000H 2048*7_12000 xEnt(900.mdl ) : 9.20 17.51<br /> 10000H 2048*7_12000 xEnt(965.mdl ) : 9.20 17.60<br /> 10000H 2048*7_12000 200H mpe(2.mdl ) : 8.80 15.99<br /> 10000H 2048*7_12000 200H mpe(8.mdl ) : 8.71 15.91<br /> 10000H 2048*7_12000 1000H mpe(13.mdl) : 8.60 15.84<br /> <br /> 2）8K 领域模型，领域通用：设备 7层TDNN2048x10000,含有英文 信道、口音<br /> 华为V3信道压缩：4000小时，GMM<br /> <br /> 结果如下：<br /> | | BJYD | JS2h |ShaanXi2h| ShanXi2h|huaweiFuCe|UnKnown2h|<br /> | nnet1 1400h MPE | 22.49 | 19.81 | 19.63 | 21.90 | 16.72 | 22.00 |<br /> | nnet1 4200h xEnt | 26.89 | 19.90 | 25.43 | 26.90 | 16.15 | 24.13 |<br /> | nnet1 4200h MPE | 24.53 | 18.39 | 22.82 | 23.97 | 14.22 | 21.35 |<br /> <br /> 在A01辽宁移动测试集上的实验结果：<br /> dnn模型（mpe增量训练后）： 22.39<br /> 华为信道模型： 20.26<br /> 用辽宁移动数据在华为信道模型上做增量（6 mdl）： 18.16<br /> 用辽宁移动数据在华为信道模型上做增量（16 mdl）： 17.85<br /> <br /> <br /> ===嵌入式===<br /> * 10000h-chain 5*400+800 has been training.<br /> * Dark-knowledge training scripts ready<br /> <br /> ===TagModel===<br /> *加重path或词边：组合词，lm中加重； 晓明、小韩<br /> :* 新词加重及添加<br /> <br /> <br /> ===勤威项目===<br /> *发布了一个模型：数据62H台湾POI，在6776MPE3上增量；词表量250多万，识别不好；<br /> 省市路，分词，句式：tag的方法来做。 晓明<br /> 需要测试集，数据中心14日标完。<br /> <br /> ===语音自适应===<br /> 针对个人的<br /> 能提高2~3%(基数CER约10%)<br /> 客户端提取ivector，传给服务器；<br /> <br /> ===End-To-End/CTC===<br /> Kaldi-nnet1, Kaldi-CTC, Kaldi-Chain and Eesen on WSJ. If GPU Parallel, then on grid-12 and grid-13.<br /> mpe-2 means method that considering Transition instead of CctcTransition when mpe, while<br /> mpe-1 means method that considering CctcTransition.<br /> ---------------------------------------------------------------------------------<br /> model %WER (test_eval92) %WER (after MPE)<br /> ---------------------------------------------------------------------------------<br /> kaldi/nnet1/dnn_2048_4(cd-dnn-hmm) 4.18<br /> ---------------------------------------------------------------------------------<br /> kaldi/ctc/decode_bd_tgpr_plm0.15 8.01<br /> kaldi/ctc/decode_bd_tgpr_plm0.15, mpe-2, iter1 7.78<br /> kaldi/ctc/decode_bd_tgpr_plm0.15, mpe-2, iter2 __7.73__<br /> <br /> <br /> Test CTC-mpe (considering CctcTransition) on aurora4.<br /> ---------------------------------------------------------------------------------<br /> model %WER learning rate<br /> ---------------------------------------------------------------------------------<br /> kaldi/ctc/decode_bd_tgpr_plm0.15 13.86<br /> kaldi/ctc/decode_bd_tgpr_plm0.15_mpe_iter1 12.70 0.0002<br /> kaldi/ctc/decode_bd_tgpr_plm0.15_mpe_iter2 12.28<br /> kaldi/ctc/decode_bd_tgpr_plm0.15_mpe_iter3 12.43<br /> kaldi/ctc/decode_bd_tgpr_plm0.15_mpe_iter4 12.34<br /> ---------------------------------------------------------------------------------<br /> <br /> ==粤语16K==<br /> ===声学模型===<br /> 已训练完成 130H<br /> <br /> ===语言模型===<br /> 下载语料，训练模型，PPL：1000+<br /> 16K模型：字错误率21.78<br /> <br /> ==粤语8K==<br /> 69小时的（CER28%） FreeTalk<br /> 90小时的（CER27.5%）质检<br /> 之前测试集有问题<br /> 字面和英文加入，测试集有，训练现在没有；<br /> 粤语只训练最后一层；90小时单独训练模型的最后一层加到1400的最后一层；<br /> LM差的比较远；<br /> 英文单词还没有加（英文的标音：用粤语的音素标）；<br /> 粤英文的模型，需要训练；<br /> <br /> ==维语8K==<br /> ===声学模型===<br /> 已训练35小时；借用梦原的模型；用16K的lm Model，WER：30%左右；<br /> ===语言模型===<br /> 和新疆大学调试：公司Word；实验室<br /> 35H标注文本数据已提供实验室处理；<br /> toolkit做完了，维语句子转成monphone串；<br /> <br /> 发布了一个维语模型，需要识别标注语料，发布的是word模型：<br /> model_35h_20150828 CER:0.419693683925<br /> <br /> 导出64小时，声学和语言模型进行优化。<br /> <br /> ==声纹识别==<br /> * 数字串模型训练 正在采集数字串语音数据，预期本月内完成；<br /> * 聚类分类算法 基于Affinity距离的算法研究<br /> * D-Vector<br /> * 短语音的识别：<br /> <br /> 数字模型：单独训练，ivector和plda需要用数字需要训练。<br /> 之前录得语料，独立人只有100人；<br /> 16K的找到一个1200人的数据，从中挑选；<br /> 8K的采购；但是音量小，是否会有影响?<br /> <br /> 8个Phone和1个Tele的录音模型已训练完；<br /> 跨信道，阈值不一致；<br /> 需要解决跨信道的识别问题；<br /> <br /> 手机和固定电话，需要分开测试；<br /> ubm256，需要加大；<br /> 组织一下数据，跑D-vector实验；<br /> <br /> 考勤系统，mic指定；<br /> 定制背景模型；<br /> <br /> 加入情绪，场景的分析，分类的分析；<br /> <br /> 将测试数据加入训练，看是否有提高？<br /> <br /> 使用条件的问题：<br /> 音量的影响？<br /> 背景噪音：如大厅中，人声噪杂的影响？<br /> <br /> 信道适应？<br /> 端点检测<br /> Mic信道<br /> 背景噪音<br /> <br /> 端点检测，信噪比计算；<br /> 发音方式：坐着、站着<br /> <br /> PLDA adaptation</div>

Zhangzy