[发明专利]一种编码器及采用该编码器的基于局部生成式注意力机制的端到端语音识别系统

摘要

本发明为一种编码器及采用该编码器的基于局部生成式注意力机制的端到端语音识别系统，本发明属于端到端语音识别技术，用低复杂度的生成式注意力计算代替点积式的注意力机制，减少了计算复杂度，同时提高了语音识别的正确率；所提出一种基于DSA的语音识别模型来减少计算复杂度。我们进一步提出了局部DSA，将DSA的注意范围限制在当前语音帧周围的若干帧之内。本发明将LDSA与SA结合起来让模型具有同时提取局部和全局信息的能力。在Ai‑shell1普通话语音识别语料库上的实验结果显示，所提出的LDSA‑Transformer实现了6.49％的字符错误率。相比于SA‑Transformer，LDSA‑Transformer正确率更高，计算复杂度更低。所提出的组合注意力方法在参数量和计算复杂度与SA‑Transformer大致相同的情况下，取得了显著优于后者的正确率。