[发明专利]跨语言的词汇义原预测方法、装置与电子设备有效
申请号: | 201811288136.1 | 申请日: | 2018-10-31 |
公开(公告)号: | CN109597988B | 公开(公告)日: | 2020-04-28 |
发明(设计)人: | 孙茂松;岂凡超;林衍凯;朱昊;谢若冰;刘知远 | 申请(专利权)人: | 清华大学 |
主分类号: | G06F40/284 | 分类号: | G06F40/284;G06F40/289;G06F40/30 |
代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 王莹;吴欢燕 |
地址: | 100084 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 语言 词汇 预测 方法 装置 电子设备 | ||
1.一种跨语言的词汇义原预测方法,其特征在于,包括:
确定从源语言的单语语料中学习源语言词向量的第一损失函数,并确定从目标语言的单语语料中学习目标语言词向量的第二损失函数;
分别确定将所述源语言词向量与所述目标语言词向量对齐的第三损失函数,以及为所述源语言词向量融入义原信息的第四损失函数;
基于源语言和目标语言的单语语料,选取一定数量具有相同语义的源语言词与目标语言词对;
基于所述源语言词与目标语言词对和所述源语言内已建立的义原知识库,采用随机梯度下降法,对所述第一损失函数、所述第二损失函数、所述第三损失函数和所述第四损失函数进行优化调节,获取同属一个语义空间的双语词向量,所述双语词向量携带所述源语言词向量与所述目标语言词向量的语义对应关系和义原与所述源语言词向量的融合关系;
基于所述双语词向量,通过搜索与所述目标语言中目标词汇词向量相近的源语言词的已标注义原,为所述目标词汇进行义原预测。
2.根据权利要求1所述的方法,其特征在于,对所述第一损失函数和所述第二损失函数进行优化调节的步骤具体包括:
基于所述源语言的不同单语语料,利用所述第一损失函数,学习各源语言词间共同出现的性质,并将该性质转化为低维实值分布式表示,形成所述源语言词向量;
基于所述目标语言的不同单语语料,利用所述第二损失函数,学习各目标语言词间共同出现的性质,并将该性质转化为低维实值分布式表示,形成所述目标语言词向量。
3.根据权利要求1所述的方法,其特征在于,确定将所述源语言词向量与所述目标语言词向量对齐的第三损失函数的步骤具体包括:
利用具有相同语义的所述源语言词和目标语言词对,构成种子词典;
基于所述种子词典,确定如下所示的第三损失函数:
式中,wsS、wtT分别表示源语言词和目标语言词,wsS表示wsS对应的所述源语言词向量,wtT表示wtT对应的所述目标语言词向量,D表示所述种子词典。
4.根据权利要求3所述的方法,其特征在于,在基于所述种子词典,确定所述第三损失函数的步骤之后,还包括:
基于相同的语义,分别为每个所述目标语言词设定一个与所述源语言词相匹配的检索索引,并基于各所述目标语言词分别对应的所述检索索引,构成一隐向量;
基于所述隐向量、所述源语言的单语语料和所述目标语言的单语语料,确定如下所示的第五损失函数:
其中,
式中,CS、CT分别表示所述源语言和所述目标语言中的单语语料,m表示所述隐向量,|VT|表示所述检索索引的个数,mt表示所述检索索引,wtT表示CT中的所述目标语言词,c(wtT)表示wtT在CT中出现的次数,表示CS中与wtT相匹配的源语言词;
对应的,根据每个所述源语言词,采用上述对应的处理流程,确定所述源语言词对应的第六损失函数;
相应的,所述对所述第三损失函数和所述第四损失函数进行优化调节的步骤具体包括:
对所述第三损失函数、所述第五损失函数和第六损失函数进行加权求和,获取综合损失函数,并对所述综合损失函数和所述第四损失函数进行优化调节。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学,未经清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811288136.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种文本还原方法、装置及电子设备
- 下一篇:一种社会热点与商品品类的匹配方法