[发明专利]一种基于残差注意力Transformer的光学乐谱图像识别方法

摘要

本发明提出了一种基于残差注意力Transformer的神经网络方法用于光学乐谱图像识别。该识别过程的步骤为：通过建立基于残差注意力Transformer的乐谱图像识别模型，提取乐谱图像中的音符序列特征；根据捕获的音符序列特征，将乐谱图像中的音符序列数字化。本发明采用预训练的浅层残差卷积神经网络初始化参数，并提取音符基本特征，接着利用循环神经网络对获得的音符特征和标签序列分别进行编码和解码，提取音符序列的关联信息；而基于残差注意力Transformer结构，对重点关注区域加强关注，抑制无关区域的关注，进一步提取音符序列上下文特征；同时，当训练模型时，使用并行计算的统一掩码语言模型，有效地降低了音符序列错误率，缩短了模型训练时间。