[发明专利]训练数据的筛选方法、系统、装置及介质

说明书

本发明涉及语音识别处理技术领域，特别适用于语音识别转写时使用的机器学习模型的训练数据的获取。针对不同场景需要大批量数据训练模型并需要大量人工标注数据而存在数据获取成本高、消耗大、数据质量/准确度差以及现有伪标签数据筛选效果差等缺陷，提出了本发明的训练数据的筛选方法、系统、装置及介质，旨在解决如何基于半监督学习的伪标签准确度筛选高质量的应用于语音识别、搜索、转写等模型的训练数据的技术问题。为此，本发明的方法通过在解码中利用解码路径的节点链接个数均值对解码结果排序以筛选排序靠前的伪标签语音数据作为模型训练数据。提高了筛选效率和数据质量，降低成本减少消耗。

技术领域

本发明属于语音识别处理技术领域，特别适用于语音识别转写时使用的机器学习模型的训练数据的获取，更具体的是涉及一种训练数据的筛选方法、系统、装置及介质。

背景技术

在智能的语音交互、人机交互等场景下使用语音识别、语音转换、语音识别搜索等处理，可以通过机器学习例如各种语音/音频识别模型等实现。随着语音识别技术发展日趋成熟，利用大批量数据训练的语音识别技术已经能在某些特定场景超过人类。但是语音模型的训练需要大量的人工标注的数据进行训练提升模型的预测识别性能(精度和准确度)即有监督学习，以更好实现语音识别、交互；如果没有充足的数据，再好的模型结构也无法学到足够的“知识”。而人工标注标签的数据虽然质量高但价格往往也高、且成本高消耗大效率低，因此，更希望能利用没有标注的数据对模型进行性能增强。利用已有数据中没有标注的数据来训练模型称为半监督学习，比如直接利用现有语音模型对音频数据进行识别，获取音频数据的“伪标签”，即给音频数据打上一些伪标签，然后将相对质量较好的有“伪标签”的数据加入标注数据中，重新继续对模型进行训练。

但由于获得的打了伪标签的音频数据不确定其质量好坏是否符合训练数据需求，从而会根据一定的指标确定伪标签数据的准确度即其数据识别/转写准确率，再根据评判的准确度来筛选出较高准确度的伪标签数据，将高准确度的伪标签数据加入到训练数据中提供给语音识别的模型再次进行模型训练，确保提升增强模型识别效率和识别效果。

而现有常见的训练数据的筛选方案，一种是根据句子级别置信度筛选即计算句子级别置信度，另一种是利用MBR(Minimum Bayes Risk)计算词级别的置信度。

前一种方案线上系统常常使用，利用每一个句子lattice的最优和次优路径的总开销total cost的差异来衡量句子置信度

sentence_confidence＝1-exp(-(best_cost-second_best_cost))

这样计算的置信度粗糙、不准确，不能反映出实际的句子识别的好坏，尤其遇到长句的时候，由于语言模型对长序列的打分不够好，更导致这种标准完全失效。

后一种方案用解码算法进行解码，根据解码结果的MBR值计算词级别的置信度，并作为筛选数据条件。根据MBR值对数据进行筛选，缺陷在于MBR值的计算是根据包括语言模型的整个解码步骤得到的结果，会受到acoustic-scale和LM rescore的影响，不同的解码策略会得到不同的结果，因此根据MBR值这样的指标进行筛选的策略并不稳定。具体MBR指标筛选思路可参见“Xu H,Povey D,Mangu L,et al.Minimum bayes risk decoding andsystem combination based on a recursion for edit distance[J].Computer SpeechLanguage,2011,25(4):802-828.”。

因而，需要改进现有的伪标签数据的筛选方式，使得其筛选受到的干扰少、筛选稳定、效率高、能更精确迅速地确定伪标签数据准确度高低，从而高效筛选出有价值高质量的伪标签数据，得到更多更好的训练数据。

发明内容

(一)要解决的技术问题