[发明专利]基于轻量化Transformer网络的语音识别系统及方法

摘要

本发明涉及人工智能领域中的语音识别技术，具体公开了一种基于轻量化Transformer网络的语音识别系统及方法，系统包括预处理模块、第一前向传播模块、多头注意力模块、卷积模块、第二前向传播模块和全连接层模块，该系统通过模块化硬件设计且将部分参数利用忆阻交叉阵列予以实现，不仅具有较轻的网络模型，而且在不同的硬件规模下具有良好的识别精度，能有效地减少电路的能耗和面积开销，可以在功耗低、结构轻的边缘设备上实现语音识别任务，并具有较好的稳定性和抗噪性。