[发明专利]基于重要性负采样的知识表示学习模型及负采样框架构建方法

权利要求书

1.一种基于重要性负采样的知识表示学习模型构建方法，其特征在于：所述方法的步骤为：

S1、对实体和关系信息进行处理，获得得分函数和损失函数；

S2、引入循环相关运算对损失函数进行梯度下降，更新模型参数；

S3、分析实体和关系嵌入向量中的值，验证该模型具有完全表达性；

S4、利用参数绑定将背景知识融入到该模型中，以改善模型的训练效果；

S5、通过实验评估和验证对知识表示学习模型的效果进行测试。

2.根据权利要求1所述的基于循环和重要性负采样的知识表示学习模型构建方法，其特征在于：所述步骤S1的具体操作为：将实体e表示成两个向量——头向量h_e和尾向量t_e，将关系r也表示成两个向量——正向量v_r和逆向量v_r^-1，在此基础上分别定义模型的得分函数和损失函数，模型的损失函数是对数似然损失函数。

3.根据权利要求1所述的基于循环和重要性负采样的知识表示学习模型构建方法，其特征在于：所述步骤S2的具体操作为：引入循环卷积运算，令在其上定义运算a*b，是卷积运算符，

4.根据权利要求1所述的基于循环和重要性负采样的知识表示学习模型构建方法，其特征在于：所述步骤S3的具体操作为：

a、令表示实体和关系的嵌入均为对于每一个实体e_i，令的的第i位为1，其他位为0，对每一个关系r_j，令的第位为1，其他位为0；

b、在模型中将头实体的头向量与尾实体的尾向量做循环相关运算，再将得到的向量与关系的正向量做点乘，将其转化为关系的正向量与头实体的头向量先做循环卷积运算，然后将得到的向量与尾实体的尾向量做点乘；对于正确的三元组，得分为1，对于错误的三元组，它的得分为-1。

5.根据权利要求1所述的基于循环和重要性负采样的知识表示学习模型构建方法，其特征在于：所述步骤S4的具体操作为：将对称性关系、反对称性关系和互逆关系等背景知识利用参数绑定融入模型中，且背景知识的融入具有选择性而并非强制。

6.根据权利要求1所述的基于循环和重要性负采样的知识表示学习模型构建方法，其特征在于：所述步骤S5的具体操作为：采用知识表示学习中最常用的两个数据集FB15K和WN18数据集，并对WN18做了一些修改构成新的数据集WN18_bk作为验证模型可以将背景知识融入知识表示模型以改善模型的训练效果的实验的数据集，将SimpleE_CC模型与CP、RESCAL、TransE、TransR、DistMult、STransE、HolE、ComplEx、SimplE等经典知识表示模型对比，调参后进行链接预测实验，对MRR、MR、Hits@N等指标进行计算，从而实现对模型效果的评估。

7.一种基于重要性负采样的负采样框架构建方法，其特征在于：所述方法的步骤为：

1)对实体集ε里的所有实体的嵌入和关系集里的所有关系的嵌入进行初始化；

2)开始进行训练，一共迭代T次；

3)通过实验评估和验证对负采样框架的效果进行测试。

8.根据权利要求7所述的基于重要性负采样的负采样框架构建方法，其特征在于：所述步骤1)的具体操作为：初始化实体和关系的嵌入，并将它们的每一维都随机初始化到内。