[发明专利]推理模型的训练方法、推理方法及装置

说明书

本公开提供了一种推理模型的训练方法、推理方法及装置，涉及人工智能技术领域，尤其涉及自然语言处理、知识图谱、深度学习技术领域。实现方案为：从知识图谱中采样环状子图；生成环状子图对应的推理语句；以及以推理语句为训练样本，训练推理模型。

技术领域

本公开涉及人工智能技术领域，尤其涉及自然语言处理、知识图谱、深度学习技术领域，具体涉及一种推理模型的训练方法及装置、推理方法及装置、电子设备、计算机可读存储介质和计算机程序产品。

背景技术

深度学习技术，尤其是预训练语言模型(例如BERT模型、GPT模型等)，被广泛应用于自然语言处理任务中。目前，预训练语言模型多用于处理序列标注、文本情感分析、语句匹配、机器翻译等任务。

在此部分中描述的方法不一定是之前已经设想到或采用的方法。除非另有指明，否则不应假定此部分中描述的任何方法仅因其包括在此部分中就被认为是现有技术。类似地，除非另有指明，否则此部分中提及的问题不应认为在任何现有技术中已被公认。

发明内容

本公开提供了一种推理模型的训练方法及装置、推理方法及装置、电子设备、计算机可读存储介质和计算机程序产品。

根据本公开的一方面，提供了一种推理模型的训练方法，包括：从知识图谱中采样环状子图；生成环状子图对应的推理语句；以及以推理语句为训练样本，训练推理模型。

根据本公开的另一方面，提供了一种推理方法，包括：将问题文本输入推理模型，推理模型为根据上述推理模型的训练方法训练得到；以及获取推理模型输出的问题文本对应的答案。

根据本公开的另一方面，提供了一种推理模型的训练装置，包括：采样模块，被配置为从知识图谱中采样环状子图；生成模块，被配置为生成环状子图对应的推理语句；以及训练模块，被配置为以推理语句为训练样本，训练推理模型。

根据本公开的另一方面，提供了一种推理装置，包括：问题输入模块，被配置为将问题文本输入推理模型，推理模型为根据上述推理模型的训练方法训练得到；以及答案获取模块，被配置为获取推理模型输出的问题文本对应的答案。

根据本公开的另一方面，提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器。该存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述推理模型的训练方法和/或推理方法。

根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质。该计算机指令用于使计算机执行上述推理模型的训练方法和/或推理方法。

根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序。该计算机程序在被处理器执行时实现上述推理模型的训练方法和/或推理方法。

根据本公开的一个或多个实施例，从知识图谱中采样环状子图，生成环状子图对应的推理语句，并以推理语句为训练样本来训练推理模型。知识图谱中的环状子图是由多个实体通过关系边连接而形成的闭环，能够表示多个实体间的关系推理过程。推理语句是环状子图对应的文本表示，相应地，推理语句是一种能够表示推理过程的推理性的语料。采用推理语句来训练推理模型，能够使推理模型直接学习到知识图谱中的知识推理过程，从而使推理模型具有知识推理能力，实现了准确、高效的知识推理。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图示例性地示出了实施例并且构成说明书的一部分，与说明书的文字描述一起用于讲解实施例的示例性实施方式。所示出的实施例仅出于例示的目的，并不限制权利要求的范围。在所有附图中，相同的附图标记指代类似但不一定相同的要素。