[发明专利]基于模式嵌入的自动树库转化方法及系统

说明书

本发明涉及一种基于模式嵌入的自动树库转化方法及系统，为了获得精准的有监督转化模型而设计。本发明基于模式嵌入的自动树库转化方法，确定词w_i和词w_j的模式；将词w_i和词w_j的模式变换为对应的模式嵌入向量；将源端树中词w_i、词w_j、最小公共祖先节点w_a三者分别对应的依存关系标签分别变换为依存关系嵌入向量；将模式嵌入向量和三个依存关系嵌入向量拼接起来，作为源端树中词w_i和词w_j的结构信息的表示向量，循环神经网络的顶层输出分别与表示向量拼接起来，作为感知器MLP的输入；利用双仿射计算获得词w_i和词w_j的目标端依存弧分值；本发明充分利用源端句法树，刻画两种标注规范的对应规律，最终完成高质量树库转化。

技术领域

本发明属于自然语言处理技术领域，具体涉及一种基于模式嵌入的自动树库转化方法及系统。

背景技术

目前研究人员在树库研究方面开展了大量的研究和开发工作，也取得了可观的成果。这些树库采用的标注体系差别巨大，按照描述方法大体分为两种，一种是短语结构树，一种是依存树。

对于依存树而言，两个树库的依存标注是遵循不同的标注规范的，称这两个树库是异构的。很多世界主流语言都拥有多个大规模异构树库，由于树库的构建需要非常高昂的人工代价，因此如何利用不同的异构树库推进句法分析的性能是一个非常重要的研究方向。

树库转化工作的主要动机是通过标注小规模的双树对齐数据，有效的刻画不同标注规范之间的对应规律，构建有监督转化模型(树库转化模型)，最终目的是将大规模源端规范树库转化为符合目标规范的树库，迅速扩大符合目标规范的训练数据规模。如图1所示，图的上半部分是按照苏州大学的规范所标注的结果，下半部分是按照哈工大汉语依存树库HIT-CDT规范所标注的结果。这样一个句子有两种标注规范的数据，称之为双树对齐数据。

为了提高句法分析的性能，本领域研究人员提出了多个经典的方法，例如：基于指导特征的间接方法、基于多任务学习的间接方法、基于转化的直接方法。间接方法的主要问题是对源端树库的利用不充分，无法有效刻画规范之间对应规律；而基于转化的直接方法，受限于双树对齐数据的缺失，也无法有效学习规范之间的对应规律，因此转化效果一般。

发明内容

为解决上述技术问题，本发明的目的是提供一种充分利用源端树库的结构信息，进而得到更优目标端依存弧得分值的基于模式嵌入的自动树库转化方法及系统。

为达到上述发明目的，本发明基于模式嵌入的自动树库转化方法，包括：

获取双树对齐数据库，所述双树对齐数据库内存储有采用两种标注规范进行标注的句子；

分别计算各所述句子中每两个词在目标端树中的依存弧分值，其中，所述的两个词分别以词w_i和词w_j表示，预设词w_i和词w_j在目标端树中分别为修饰词和核心词，词w_i和词w_j在目标端树中的依存弧分值计算过程包括：

根据词w_i和词w_j在源端树d^src中的句法关系，确定词w_i和词w_j的模式；

基于模式与嵌入向量对应表，将词w_i和词w_j的模式变换为对应的模式嵌入向量

将源端树中词w_i对应的依存关系标签、词w_j的依存关系标签、词w_i和词w_j的最小公共祖先节点w_a的依存关系标签分别变换为依存关系嵌入向量