[发明专利]一种基于余弦度量规则的知识图谱表示学习方法

说明书

本发明公开一种基于余弦度量规则的知识图谱表示学习方法，首先将知识图谱中的实体与关系随机嵌入到两个向量空间；其次利用候选实体统计规则，统计相关关系对应的三元组集与候选实体向量集；再次利用余弦相似度构造目标向量与候选实体的评分函数，对候选实体进行评价；最后利用损失函数将所有相关关系的候选实体向量与目标向量进行统一训练，并通过随机梯度下降算法最小化损失函数。当达到优化目标时，即可获得知识图谱中每个实体向量和关系向量的最佳表示，从而更好的表示实体与关系之间的联系，并能够很好的应用于大规模的知识图谱补全当中。

技术领域

本发明涉及知识图谱技术领域，具体涉及一种基于余弦度量规则的知识图谱表示学习方法。

背景技术

随着大数据时代的到来，数据的红利使人工智能技术得到了前所未有飞速发展。以知识图谱为主要代表的知识工程以及表示学习为主要代表的机器学习等相关领域得到了长足进步。一方面，随着表示学习对大数据红利的消耗殆尽，使得表示学习模型效果趋于瓶颈。另一方面，伴随这大量的知识图谱不断涌现，而这些蕴含这大量的人类先验知识宝库却仍未被表示学习有效的利用。融合知识图谱与表示学习成为了进一步提高表示学习模型效果的重要思路之一。以知识图谱为代表的符号主义、以表示学习为代表的联结主义，日益脱离原先各自独立发展的轨道，走上协同并进的新道路。

知识图谱本质上是一种语义网络，表达了各类实体、概念及其之间的语义关系。相对于传统知识表示形式(诸如本体、传统语义网络)，知识图谱具有实体/概念覆盖率高、语义关系多样、结构友好(通常表示为RDF格式)以及质量较高等优势，从而使得知识图谱日益成为大数据时代和人工智能时代最为主要的知识表示方式。

三元组是知识图谱的一种通用的表示形式，三元组的基本形式包括(实体1，关系，实体2)和(概念，属性，属性值)等，实体是知识图谱中最基本的元素，不同实体之间存在不同的关系。概念主要包括集合、对象类型、事物种类，如地理、人物等；属性是指对象具有的属性特征、特性，如国籍出生日期；属性值则是指属性所对应的值，如中国，1993-01-12等。通常使用(head,relation,tail)(简写为(h,r,t))来表示三元组，其中r表示头实体h和尾实体t之间的关系。如巴黎是法国首都这一知识，在知识图谱中可以使用(巴黎，是......首都，法国)这一三元组表示。

知识图谱的表示学习旨在将知识图谱中的实体和关系嵌入到低维向量空间，将其表示为稠密低维实值向量。其关键是合理定义知识图谱中关于事实(三元组(h,r,t))的损失函数f_r(h,t)与三元组的两个实体h、t的向量化表示。通常情况下，当事实(h,r,t)成立时，期望最小化f_r(h,t)。考虑整个知识图谱的事实，则可通过最小化损失函数来学得实体与关系的向量表示。不同的表示学习可以使用不同的原则和方法定义相应的损失函数。当前以TransE模型为代表的翻译模型以其突出的性能与简单的模型参数受到了广泛的关注。然而，现有的翻译模型可以有效的处理1-1的简单关系，但对于1-N、N-1、N-N的复杂关系仍受到限制。这就导致现有知识图谱表示学习方法无法很好地应用于大规模的知识图谱。

发明内容

本发明所要解决的是现有知识图谱表示学习方法无法很好地处理1-N、N-1、N-N的复杂关系的问题，提供一种基于余弦度量规则的知识图谱表示学习方法。

为解决上述问题，本发明是通过以下技术方案实现的：

一种基于余弦度量规则的知识图谱表示学习方法，包括步骤如下：

步骤1、利用向量随机生成方法将知识图谱中的实体集和关系集分别嵌入到实体向量空间和关系向量空间，得到实体向量和关系向量；

步骤2、利用候选实体统计规则，获得随机选择三元组的候选实体向量集，并根据候选实体向量集随机生成错误实体向量集；

步骤3、利用余弦相似度构造目标向量与候选实体向量之间的评分函数，同时规范其函数值的取值范围；