[发明专利]提供用于自然语言问答系统的训练数据的方法和设备

说明书

本发明提供了用于自然语言问答系统的训练数据的方法和设备、计算机可读存储介质以及自然语言问答系统。所述方法包括：接收原始训练数据，所述原始训练数据包括问题答案对形式的至少一个问题和相对应的多个答案；确定所述多个答案的数据质量；基于所述数据质量，将所述多个答案标记为第一类实例或第二类实例；从所述多个答案中选择第一类实例和第二类实例进行组合，以获得多个实例组合；对所述多个实例组合进行排序，经排序的所述多个实例组合分别对应于自然语言问答系统在时间顺序上的各次训练的训练数据，其中所述第一类实例在经排序的所述多个实例组合中的比例单调增加并且所述第二类实例在经排序的所述多个实例组合中的比例单调减少。

技术领域

本发明涉及人工智能领域，更具体地，本发明涉及提供用于自然语言问答系统的训练数据的方法和设备、计算机可读存储介质以及自然语言问答系统。

背景技术

近年来，随着计算机技术的不断发展，人工智能在许多领域中的应用越来越广泛。自然语言问答系统是人工智能在人类的自然语言处理中的一种应用，其能够接受用户以自然语言形式描述的提问，并能从大量的异构数据中查找或推断出用户问题的答案，且以自然语言的形式提供答案。借助于自然语言问答系统，用户可以用自然语言提出问题，并且获得准确且流利的自然语言回答，使得用户可以更便捷地获得知识。

在自然语言问答系统中，通常需要预先将训练数据输入到诸如神经网络等的分类器中进行训练。当接收到用户以自然语言提出的问题时，可以利用训练好的分类器或预设的规则对输入问题进行分析，以从预先建立的知识库中查找或推断得到相应的答案，并且最终以自然语言的形式向用户推送问题答案。在现有的自然语言问答系统中，对训练数据的质量要求非常严格，通常需要使用高质量数据进行训练才能够取得较好的训练效果，因此在训练阶段会直接筛除低质量数据。然而，训练数据在当今大数据时代极其珍贵，未充分利用低质量数据进行训练意味着丢失了许多有价值的信息，导致需要从数量极其庞大的样本数据中筛选。

因此，希望提供一种能够合理使用高质量数据和低质量数据从而提供用于自然语言问答系统中自然语言生成任务的训练数据的方法和设备，以便利用该训练数据更好地对自然语言问答系统中的自然语言生成模型进行训练，使用户可以更便捷更全面更交互友好地获得知识。

发明内容

鉴于上述问题，本发明提供用于自然语言问答系统的训练数据的方法和设备、计算机可读存储介质以及自然语言问答系统。

根据本发明的一个实施例，提供了一种提供用于自然语言问答系统的训练数据的方法，包括：接收原始训练数据，所述原始训练数据包括问题答案对形式的至少一个问题和相对应的多个答案；确定所述多个答案的数据质量；基于所述数据质量，将所述多个答案标记为第一类实例或第二类实例；从所述多个答案中选择第一类实例和第二类实例进行组合，以获得多个实例组合；对所述多个实例组合进行排序，经排序的所述多个实例组合分别对应于自然语言问答系统在时间顺序上的各次训练的训练数据，其中所述第一类实例在经排序的所述多个实例组合中的比例单调增加并且所述第二类实例在经排序的所述多个实例组合中的比例单调减少。

根据本发明的另一实施例，提供了一种提供用于自然语言问答系统的训练数据的设备，包括：数据接收单元，配置为接收原始训练数据，所述原始训练数据包括问题答案对形式的至少一个问题和相对应的多个答案；质量确定单元，配置为确定多个答案的数据质量；标记单元，配置为基于所述数据质量将所述多个答案标记为第一类实例或第二类实例；组合单元，配置为从所述多个答案中选择第一类实例和第二类实例进行组合，以获得多个实例组合；排序单元，配置为对所述多个实例组合进行排序，经排序的所述多个实例组合分别对应于自然语言问答系统在时间顺序上的各次训练的训练数据；以及训练数据提供单元，配置为向自然语言问答系统提供所述经排序的所述多个实例组合，其中所述第一类实例在经排序的所述多个实例组合中的比例单调增加并且所述第二类实例在经排序的所述多个实例组合中的比例单调减少。