[发明专利]一种跨领域知识迁移的标签嵌入方法和装置

说明书

本发明涉及一种跨领域知识迁移的标签嵌入方法及装置，包括：获取源域和目标域的文本数据并进行模型表征，求解源域和目标域中关键词的词向量参数，进行从源域到目标域的关键词标签的迁移；获取源域与目标域中已标注的关键词的最近邻，将已标注的关键词的关键词标签赋权给最近邻的关键词，得到扩展后的关键词标签；根据抽取的用户级的文本数据，进行用户级关键词标签的标注；以关键词的词向量参数和用户级关键词标签为基础，根据用户的点击和/或访问数据信息，动态优化用户级关键词标签部分的参数；从目标域中获取新的用户级文本数据，进行用户级关键词标签的标注预测和排序，并输出结果。本发明可以兼顾标签标注的准确性及高效率性，满足业务人员的业务需求。

技术领域

本发明涉及贝叶斯网络及文本挖掘的应用领域，尤其涉及一种跨领域知识迁移的标签嵌入方法和装置。

背景技术

近年来，随着大数据技术的飞速发展，各行各业越来越注重数据的价值，且各家积累的数据源和数据结构呈现出多样化的特点，其中文本数据的产生也越来越多，如各家线上媒体、电商评论、微博、在线广告等都会产生大量的文本数据，通过挖掘用户的这些历史行为数据中的信息，识别用户的兴趣，对各家企业十分重要。由于文本数据的特征表达多高维稀疏，且中文语义复杂，对这些文本进行语义解析和分类一直是一大难题，学术界和工业界产生了一些优秀的算法，如LDA、PLSA、深度学习分类等方法，在计算方法上也有分布式并行计算如hadoop、spark、参数服务器等进行模型训练和泛化的方式。

但是我们在实际使用和研究过程中发现，现有技术至少存在以下问题：现有技术是基于非监督学习的聚类分析方法或是依赖大量标注数据，不能满足业务人员的个性化需求。实际使用过程中经常由业务人员根据自身业务发展情况设计自上而下的标签体系，这种情况下采用非监督学习的聚类分析技术输出的结果与业务体系本身往往会有较大差异；若选择采用监督方法，如文本分类按照业务人员设计的体系对预料的语句进行标注，产生样本数据，而对语句或文章的标注对文本数据总体来说，耗时且耗费成本，而且标注的准确性也取决于参与标注人员的业务经验。

总之，现有技术中对文本数据进行标签标注的算法不能兼顾标注的准确性及高效率性，满足业务人员的业务需求。

发明内容

为解决以上问题，本发明提供一种跨领域知识迁移的标签嵌入方法和装置，使其可以兼顾标注的准确性及高效率性，满足业务人员的业务需求。

本发明一种跨领域知识迁移的标签嵌入方法，包括以下步骤：获取源域和目标域的文本数据，对源域和目标域的文本数据进行分词处理和模型表征，求解源域和目标域中关键词的词向量参数，并进行从源域到目标域的关键词标签的迁移；采用随机森林最近邻方法获取源域与目标域中已标注的关键词的最近邻，将已标注的关键词的关键词标签赋权给最近邻的关键词，得到扩展后的关键词标签；根据抽取的用户级的文本数据，进行用户级关键词标签的标注；以关键词的词向量参数和用户级关键词标签为基础，根据用户的点击和/或访问数据信息，动态优化用户级关键词标签部分的参数；从目标域中获取新的用户级文本数据，进行用户级关键词标签的标注预测和排序，并输出结果。

作为进一步优化，所述对源域和目标域的文本数据进行模型表征，求解源域和目标域中关键词的词向量参数，包括：建立连接源域和目标域数据特征的综合似然损失函数，其中，所述综合似然损失函数由极大似然损失函数和共享正则函数构成；采用kernel-based高斯核算法模型度量共享正则函数；对极大似然损失函数进行转化；采用异步随机梯度下降算法对综合似然损失函数进行迭代优化求解，得到源域和目标域中关键词的词向量参数。

所述对极大似然损失函数进行转化，事先需要对源域和目标域中的关键词采用Huffman编码，编码后产生的路径节点的分支采用Logistic分类预测。