[发明专利]神经网络模型运行方法、介质和电子设备

说明书

本申请涉及机器学习技术领域，特别涉及一种神经网络模型运行方法、介质和电子设备。本申请的神经网络模型运行方法，通过将具有相同运算形式和相同输入数据的运算项中的权重矩阵进行拼接，再利用该形式的运算项对应的运算单元基于拼接后的权重矩阵，通过一次从存储单元中获取输入数据即可得到各运算项的运算结果，从而提高了电子设备运算神经网络模型的速度。

技术领域

本申请涉及机器学习技术领域，特别涉及一种神经网络模型运行方法、介质和电子设备。

背景技术

随着人工智能(Artificial Intelligence，AI)技术的快速发展，神经网络(例如，深度神经网络、循环神经网络)近年来在计算机视觉、语音、自然语言、强化学习等领域中取得了非常好的效果。随着神经网络算法的发展，算法的复杂度越来越高，为了提高识别度，模型的规模在逐渐增大，相应地，部署有神经网络模型的设备的功耗和运算资源的消耗也越来大。尤其对于一些运算资源有限的边缘设备，提高神经网络模型的运算速度，节约运算时间，降低功耗尤为重要。

发明内容

本申请的目的在于提供了一种神经网络模型运行方法、介质和电子设备。通过本申请的神经网络模型运行方法，通过将具有相同运算形式和相同输入数据的运算项(如下文的公式(1)中的“x_t×W^xz+h_t-1×W^hz”和公式(2)中的“x_t×W^xr+h_t-1×W^hr运算形式相同，输入数据都为x_t和h_t-1)”中的权重矩阵(W^xz和W^xr以及W^hz和W^hr)进行拼接，再利用该形式的运算项对应的运算单元基于拼接后的权重矩阵，通过一次从存储单元中获取输入数据即可得到各运算项的运算结果。从而提高了电子设备运算神经网络模型的速度。

本申请的第一方面提供了一种神经网络模型运行方法，应用于电子设备，其特征在于，神经网络模型包括第一运算和第二运算。并且方法包括：获取第一运算或第二运算的待运算数据矩阵，其中，第一运算和第二运算中的运算因子的数量相同，并且对于第一运算中的各运算因子，在第二运算中存在待运算数据矩阵相同而运算系数矩阵不同的对应运算因子。对待运算数据矩阵进行第三运算，生成第三运算的结果矩阵，其中，第三运算为将第一运算和第二运算中相对应的运算因子的运算系数矩阵进行合并之后得到的运算方式。对第三运算的结果矩阵进行拆分，分别得到第一运算的结果矩阵和第二运算的结果矩阵。