[发明专利]表示方法、语音识别方法、装置、电子设备

权利要求书

1.一种语音识别方法，包括：

获取对待处理语音对应的数据向量进行特征提取后生成的语音特征向量；

通过过滤器对所述语音特征向量进行转换处理，获得用于自注意力计算的三元组，其中，所述三元组包括：查询向量、键向量和值向量；

根据所述查询向量、所述键向量和所述值向量进行自注意力计算，获得对应的网络表示；

根据所述网络表示，对所述待处理语音进行识别。

2.根据权利要求1所述的方法，其中，所述通过过滤器对所述语音特征向量进行转换处理，获得用于自注意力计算的三元组包括：

通过两个过滤器分别对所述语音特征向量进行转换处理，获得用于自注意力计算的三元组中的两个向量；

根据所述语音特征向量进行赋值操作，获得用于自注意力计算的三元组中的另一向量。

3.根据权利要求2所述的方法，其中，

通过两个过滤器分别对所述语音特征向量进行转换处理，获得用于自注意力计算的三元组中的两个向量，包括：通过两个过滤器分别对所述语音特征向量进行转换处理，获得用于自注意力计算的三元组中的所述查询向量和所述键向量；

所述根据所述语音特征向量进行赋值操作，获得用于自注意力计算的三元组中的另一向量包括：将所述语音特征向量作为值，赋值给用于自注意力计算的三元组中的所述值向量。

4.根据权利要求1所述的方法，其中，所述方法应用于语音识别模型，所述语音识别模型包括语音编码器；

所述获取对待处理语音对应的数据向量进行特征提取后生成的语音特征向量包括：通过所述语音识别模型获取待处理语音对应的数据向量，并通过所述语音识别模型的特征提取部分对所述数据向量进行特征提取，生成语音特征向量并输入所述语音编码器；

所述通过过滤器对所述语音特征向量进行转换处理，获得用于自注意力计算的三元组包括：通过所述语音编码器中的过滤器，对所述语音特征向量进行转换处理，获得用于自注意力计算的三元组；

所述根据所述查询向量、所述键向量和所述值向量进行自注意力计算，获得对应的网络表示，包括：通过所述语音编码器中的自注意力层对所述查询向量、所述键向量和所述值向量进行自注意力计算，获得对应的网络表示。

5.根据权利要求1所述的方法，其中，所述方法应用于语音识别模型，所述语音识别模型包括语音编码器和语音解码器；

所述获取对待处理语音对应的数据向量进行特征提取后生成的语音特征向量包括：通过所述语音识别模型中的语音解码器获取所述语音编码器输出的语音编码向量，并对所述语音编码向量进行特征提取，生成语音特征向量；

所述通过过滤器对所述语音特征向量进行转换处理，获得用于自注意力计算的三元组包括：通过所述语音解码器中的过滤器，对所述语音特征向量进行转换处理，获得用于自注意力计算的三元组；

所述根据所述查询向量、所述键向量和所述值向量进行自注意力计算，获得对应的网络表示，包括：通过所述语音解码器中的自注意力层对所述查询向量、所述键向量和所述值向量进行自注意力计算，获得对应的网络表示。

6.一种基于自注意力机制的表示方法，包括：

获取待处理数据，其中，所述待处理数据为以下之一：待处理语音数据、待处理文本数据、待处理图像数据；

获取对所述待处理数据对应的数据向量进行特征提取后生成的特征向量；

通过过滤器对所述特征向量进行转换处理，获得用于自注意力计算的三元组，其中，所述三元组包括：查询向量、键向量和值向量；

根据所述查询向量、所述键向量和所述值向量进行自注意力计算，获得对应的网络表示。

7.根据权利要求6所述的方法，其中，

当所述待处理数据为待处理语音数据时，对应的，所述特征向量为语音特征向量；

或者，当所述待处理数据为待处理文本数据时，对应的，所述特征向量为文本特征向量；

或者，当所述待处理数据为待处理图像数据时，对应的，所述特征向量为图像特征向量。