[发明专利]用于搜索系统的训练方法、电子设备和存储介质

说明书

本公开提供了一种基于预训练语言模型的搜索系统的训练方法、电子设备和存储介质，涉及人工智能领域，尤其涉及智能搜索领域。实现方案为：接收样本数据集；初始化召回模型和排序模型中的多个参数；对于每一个样本数据，计算请求语义向量和多个数据语义向量之间的相似度，以获取第一数量的数据语义向量；依次将样本搜索请求和与每一个数据语义向量相对应的候选数据作为联合输入值输入到排序模型的交叉编码器中，以对候选数据进行排序；基于经排序的候选数据和样本数据集，计算损失函数；以及基于损失函数调整召回模型和排序模型中的多个参数。

技术领域

本公开涉及人工智能技术领域，尤其涉及智能搜索技术领域，具体涉及一种用于搜索系统的训练方法、电子设备、计算机可读存储介质和计算机程序产品。

背景技术

人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科，既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术；人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。

数据搜索是互联网中的基础服务之一，能够基于用户的搜索请求提供满足用户需求的搜索结果。

在此部分中描述的方法不一定是之前已经设想到或采用的方法。除非另有指明，否则不应假定此部分中描述的任何方法仅因其包括在此部分中就被认为是现有技术。类似地，除非另有指明，否则此部分中提及的问题不应认为在任何现有技术中已被公认。

发明内容

本公开提供了一种基于预训练语言模型的搜索系统的训练方法、电子设备、计算机可读存储介质和计算机程序产品。

根据本公开的一方面，提供了一种基于预训练语言模型的搜索系统的训练方法，其中，所述搜索系统包括由召回模型和排序模型级联组成的端到端深度神经网络基础模型，并且其中，所述召回模型基于双编码器构造，所述排序模型基于交叉编码器构造，所述方法包括：接收样本数据集，所述样本数据集中的样本数据包括样本搜索请求和第一目标输出数据集；初始化所述召回模型和所述排序模型中的多个参数；对于每一个样本数据，执行如下操作：由所述召回模型中的第一编码器将该样本数据中的样本搜索请求转换为第一请求语义向量；由所述召回模型中的第二编码器分别将不同类型的多个候选数据转换成相应的多个第一数据语义向量，其中，所述不同类型的多个候选数据至少包括文本、图片和视频；分别计算所述第一请求语义向量和所述多个第一数据语义向量之间的第一相似度，从而选择出第一数量的第一数据语义向量，其中，所述第一数量的第一数据语义向量与所述第一请求语义向量的第一相似度均满足预设条件；依次将所述样本搜索请求和与所述第一数量的第一数据语义向量中的每一个第一数据语义向量相对应的候选数据作为第一联合输入值输入到所述排序模型的交叉编码器中，以对分别与所述第一数量的第一数据语义向量相对应的候选数据进行排序；基于经排序的候选数据和所述第一目标输出数据集，计算损失函数；以及基于所述损失函数调整所述召回模型和所述排序模型中的多个参数。

根据本公开的另一方面，提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述基于预训练语言模型的搜索系统的训练方法。

根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行上述基于预训练语言模型的搜索系统的训练方法。

根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，其中，计算机程序在被处理器执行时实现上述基于预训练语言模型的搜索系统的训练方法。

根据本公开的一个或多个实施例，可以实现基于预训练语言模型的搜索系统的训练。