[发明专利]一种基于多源领域适应联合学习的跨领域文本情感分类方法

说明书

本发明针对跨领域文本情感分类任务提出了一种多源领域适应联合学习方法与系统。此框架可以同时学习和训练多个领域的神经网络，可以从不同方面引入更丰富的监督信息。多个领域的任务可以相互补充，从而更容易得到更一般化的表示模型。特别地，本发明设计的联合训练的损失函数包括四个部分：情感分类损失、参数迁移损失、领域融合损失和防止过拟合的正则项。情感分类损失包含了源领域任务和目标领域任务上的情感分类损失，软参数迁移的方法可以有效地迁移源领域的情感知识到目标领域中，而深度领域融合可以保证在学习过程中不同领域的边际分布尽可能地相似。因此多源领域适应联合学习神经网络能够在有限的数据条件下实现更好的特征表示和泛化能力。我们在中文和英文的多领域数据集上验证了提出的多源领域适应联合学习框架，实验结果表明本发明提出的方法在跨领域文本情感分类准确率上有很大提升。

技术领域

本发明涉及自然语言处理文本情感分析领域，提出了一种基于多源领域适应联合学习的跨领域文本情感分类方法。

背景技术

跨领域情感分类(Cross-domain sentiment classification)被定义为通过迁移源领域任务的情感信息到目标领域，利用相关的源领域带标签的数据学习一个精确的情感分类器，实现对目标领域不带标签数据的情感极性分类任务。跨领域文本情感分类作为自然语言处理任务中的重要分支，一直是产业界和学术界的研究热点和难点。根据可用的源领域的个数，可以分为单源领域和多源领域的跨领域情感分类。多源领域优势在于可以利用多个源领域的信息训练更鲁棒的模型，难点在于如何选择合适的源领域和如何融合多个多领域的情感信息。

大部分多源跨领域情感分类研究主要专注于目标领域数据样本稀缺问题和如何利用多个源领域数据，多采用基于实例迁移或者模型迁移的方法。从模型迁移的角度看，Tan等人定义了多视角和多源领域的迁移学习，提出了一种新的“协同利用不同视角和源领域的知识算法”(Statistical Analysis and Data Mining:The ASA Data ScienceJournal，2014，第7卷第4期)，通过不同源领域互相协同训练的方法，可以弥补不同领域之间的分布差异。Ge等人提出了一种“快速的、可扩展的在线多领域迁移学习框架”(Proceedings of the ACM International Conference on Information and KnowledgeManagement，2013)，此框架在凸优化的基础上，在目标领域的信息指导下从多个源领域中迁移知识。Wu等人在从不带标签的目标领域数据中词的情感极性关系的帮助下，提出了一种“基于情感图的领域相似性度量方法”(Proceedings of the Annual Meeting of theAssociation for Computational Linguistics，2016)，相似的领域通常会共享共同的情感词和情感词对，目标领域和不同的源领域的相似性也被合并到适应性过程中。Yoshida等人提出了一种“新的贝叶斯概率模型处理多个源领域和多个目标领域的情况”(Proceedings of the AAAI Conference on Artificial Intelligence，2011)，在此模型中，每个词有三个要素，分别是领域标签、领域独立/非独立、词的极性。