[发明专利]一种训练、使用数据转换模型的方法、装置及计算机设备

说明书

本申请提供一种训练、使用数据转换模型的方法、装置及计算机设备，可以应用于人工智能和云安全等领域，用于解决注意力机制的准确性较低的问题。训练数据转换模型的方法至少包括：获得训练输出语义元素序列中的各个训练输出语义位置，与所述样本输入语义元素序列中各个样本输入语义元素之间的元素相关概率；采用所述数据转换模型，基于获得的各个元素相关概率，分别获得所述各个训练输出语义位置各自对应的全局训练输出语义元素和局部训练输出语义元素，并基于获得的各个全局训练输出语义元素和各个局部训练输出语义元素，分别确定所述各个训练输出语义位置各自对应的目标训练输出语义元素，以获得所述训练输出语义元素序列。

技术领域

本申请涉及计算机技术领域，尤其涉及一种训练、使用数据转换模型的方法、装置及计算机设备。

背景技术

随着科技的不断发展，在很多领域中，机器可以基于已训练的模型对初始数据进行一些智能化的处理，并基于模型的输出获得目标数据，从而机器可以像人一样执行一些智能化行为。例如，自然语言处理领域中，机器可以基于已训练的模型将第一语言形式的初始数据，翻译成第二语言形式的目标数据。又例如，计算机视觉领域中，机器可以基于已训练的模型将图像形式的初始数据，翻译成文字形式的目标数据等。

已训练的模型中的数据转换模型通常是将注意力集中在初始数据的全局特征上，然而，初始数据的全局特征仅涉及初始数据宏观角度的特征，使得基于已训练的模型获得的目标数据也仅能够表征初始数据的宏观角度的特征，可见，数据转换模型的注意力机制的准确性较低。

发明内容

本申请实施例提供一种训练、使用数据转换模型的方法、装置及计算机设备，用于解决注意力机制的准确性较低的问题。

第一方面，提供一种训练数据转换模型的方法，包括：

采用样本输入语义元素序列集合对数据转换模型进行训练，获得已训练的数据转换模型；其中，在一次训练过程中，针对所述样本输入语义元素序列集合中的样本输入语义元素序列，至少执行以下操作：

获得训练输出语义元素序列中的各个训练输出语义位置，与所述样本输入语义元素序列中各个样本输入语义元素之间的元素相关概率；

采用所述数据转换模型，基于获得的各个元素相关概率，分别获得所述各个训练输出语义位置各自对应的全局训练输出语义元素和局部训练输出语义元素，并基于获得的各个全局训练输出语义元素和各个局部训练输出语义元素，分别确定所述各个训练输出语义位置各自对应的目标训练输出语义元素，以获得所述训练输出语义元素序列，其中，所述全局训练输出语义元素与每个样本输入语义元素相关，所述局部训练输出语义元素与部分样本输入语义元素相关。

第二方面，提供一种使用数据转换模型的方法，包括：

获得待处理输入语义元素序列，以及转换输出语义元素序列中的各个转换输出语义位置，与所述待处理输入语义元素序列中各个待处理输入语义元素之间的元素相关概率；

采用所述数据转换模型，基于获得的各个元素相关概率，分别获得所述各个转换输出语义位置各自对应的全局转换输出语义元素和局部转换输出语义元素，并基于获得的各个全局转换输出语义元素和各个局部转换输出语义元素，分别确定所述各个转换输出语义位置各自对应的目标转换输出语义元素，以获得所述转换输出语义元素序列，其中，所述全局转换输出语义元素与每个待处理输入语义元素相关，所述局部转换输出语义元素与部分待处理输入语义元素相关。

第三方面，提供一种训练数据转换模型的装置，包括：

训练模块：用于采用样本输入语义元素序列集合对数据转换模型进行训练，获得已训练的数据转换模型；其中，在一次训练过程中，针对所述样本输入语义元素序列集合中的样本输入语义元素序列，至少执行以下操作：

获取模块：用于获得训练输出语义元素序列中的各个训练输出语义位置，与所述样本输入语义元素序列中各个样本输入语义元素之间的元素相关概率；