[发明专利]基于双塔结构模型的文本匹配方法及装置

权利要求书

1.一种基于双塔结构模型的文本匹配方法，其步骤包括：

1)将训练集中的一组待匹配文件与匹配文件，分别输入两个独立的预处理语言模型，得到待匹配文件语义向量与匹配文本语义向量；

2)将待匹配文件语义向量与匹配文本语义向量输入第一CNN层，进行降维，并利用第二CNN层，计算降维后的待匹配文件语义向量与匹配文本语义向量的相似度；

3)根据所述相似度，获取该组待匹配文件与匹配文件的匹配结果；

4)利用训练集中各组待匹配文件与匹配文件迭代训练第一CNN层与第二CNN层，并对预处理语言模型进行微调，得到改进后的双塔结构模型；

5)将待匹配文件与匹配文件输入改进后的双塔结构模型，得到匹配结果。

2.如权利要求1所述的方法，其特征在于，语言模型包括：BERT模型、ELMO模型或GPT模型。

3.如权利要求1所述的方法，其特征在于，待匹配文件语义向量与匹配文本语义向量的维度为256维。

4.如权利要求1所述的方法，其特征在于，降维后的待匹配文件语义向量与匹配文本语义向量为128维。

5.如权利要求1所述的方法，其特征在于，计算相似度的方法包括：计算降维后的待匹配文件语义向量与匹配文本语义向量的余弦距离。

6.如权利要求1所述的方法，其特征在于，通过以下步骤获取该组待匹配文件与匹配文件的匹配结果：

1)利用多分类softmax函数，计算文本匹配概率；

2)根据文本匹配概率及一设定阈值，得到该组待匹配文件与匹配文件的匹配结果。

7.如权利要求6所述的方法，其特征在于，文本匹配概率其中Q为降维后的待匹配文件语义向量，D为降维后的匹配文件语义向量，D⁺为降维后的匹配文件语义向量在降维后的待匹配文件语义向量下的正样本，D′为降维后的匹配文件语义向量在降维后的待匹配文件语义向量下的整个样本空间，γ为softmax函数的平滑因子，R(·)为相似度。

8.如权利要求1所述的方法，其特征在于，迭代训练第一CNN层与第二CNN层时，损失函数其中∧为迭代次数，Q为降维后的待匹配文件语义向量，D⁺为降维后的匹配文件语义向量在降维后的待匹配文件语义向量下的正样本。

9.一种存储介质，所述存储介质中存储有计算机程序，其中，所述计算机程序被设置为运行时执行权利要求1-8中任一所述方法。

10.一种电子装置，包括存储器和处理器，所述存储器中存储有计算机程序，所述处理器被设置为运行所述计算机程序以执行如权利要求1-8中任一所述方法。