[发明专利]基于上下文语义的词义消歧方法、装置及相关设备在审
| 申请号: | 202111354317.1 | 申请日: | 2021-11-16 |
| 公开(公告)号: | CN113901836A | 公开(公告)日: | 2022-01-07 |
| 发明(设计)人: | 张剑;陈雅珍 | 申请(专利权)人: | 东莞理工学院 |
| 主分类号: | G06F40/30 | 分类号: | G06F40/30;G06F40/289;G06K9/62 |
| 代理公司: | 东莞恒成知识产权代理事务所(普通合伙) 44412 | 代理人: | 姚伟旗 |
| 地址: | 523808 广*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 基于 上下文 语义 词义 方法 装置 相关 设备 | ||
1.基于上下文语义的词义消歧方法,其特征在于,包括:
获取文本数据,并对所述文本数据进行预处理,得到待处理数据;
将所述待处理数据输入到预训练的语言模型进行训练,得到上文语境信息、歧义词信息和下文语境信息,所述预训练的语言模型为自编码语言模型或自回归语言模型;
根据所述上文语境信息、所述歧义词信息和所述下文语境信息,得到文本段语义信息;
将所述文本段语义信息输入到预训练的分类器中进行训练,确定所述歧义词信息在当前语境中的定义,所述预训练的分类器为Softmax线性分类器。
2.如权利要求1所述的基于上下文语义的词义消歧方法,其特征在于,所述根据所述上文语境信息、所述歧义词信息和所述下文语境信息,得到文本段语义信息包括:
对所述上文语境信息、所述歧义词信息和所述下文语境信息进行均值计算,得到文本段语义信息。
3.如权利要求1所述的基于上下文语义的词义消歧方法,其特征在于,所述方根据所述上文语境信息、所述歧义词信息和所述下文语境信息,得到文本段语义信息包括:
对所述上文语境信息和所述歧义词信息进行均值计算,得到第一语义信息;
对所述下文语境信息和所述歧义词信息进行均值计算,得到第二语义信息;
将所述第一语义信息和所述第二语义信息作为所述文本段语义信息。
4.如权利要求1所述的基于上下文语义的词义消歧方法,其特征在于,所述预训练的分类器中配置有定义信息库,所述定义信息库包括歧义词信息的至少一个定义,所述将所述文本段语义信息输入到预训练的分类器中进行训练,确定所述歧义词信息在当前语境中的定义包括:
将所述文本段语义信息输入到所述预训练的分类器中进行概率预测,得到歧义词信息对应的概率值信息;
根据所述概率值信息,确定所述歧义词信息在当前语境中的定义。
5.如权利要求4所述的基于上下文语义的词义消歧方法,其特征在于,所述根据所述概率值信息,确定所述歧义词信息在当前语境中的定义包括:
所述概率值信息为歧义词信息对应的每个定义的概率分值;
根据每个所述定义的概率分值,确定所述歧义词信息在当前语境中的定义。
6.如权利要求4所述的基于上下文语义的词义消歧方法,其特征在于,所述根据所述概率值信息,确定所述歧义词信息在当前语境中的定义包括:
所述概率值信息为上文概率分值信息、下文概率分值信息和概率参数;
根据所述上文概率分值信息、所述下文概率峰值信息和所述概率参数,计算得到每个所述定义的概率分值;
根据每个所述定义的概率分值,确定所述歧义词信息在当前语境中的定义。
7.如权利要求5或6所述的基于上下文语义的词义消歧方法,其特征在于,所述根据每个所述定义的概率分值确定所述歧义词信息在当前语境中的定义包括:
将每个所述定义的概率分值按照预设的排序规则进行排序,得到分值序列;
从所述分值序列中获取最大的概率分值,并将所述最大的概率分值对应的定义作为所述歧义词信息在当前语境中的定义。
8.一种基于上下文语义的词义消歧装置,其特征在于,包括:
数据获取模块,用于获取文本数据,并对所述文本数据进行预处理,得到待处理数据;
第一训练模块,用于将所述待处理数据输入到预训练的语言模型进行训练,得到上文语境信息、歧义词信息和下文语境信息,所述预训练的语言模型为自编码语言模型或自回归语言模型;
文本段语义信息获取模块,用于根据所述上文语境信息、所述歧义词信息和所述下文语境信息,得到文本段语义信息;
第二训练模块,用于将所述文本段语义信息输入到预训练的分类器中进行训练,确定所述歧义词信息在当前语境中的定义,所述预训练的分类器为Softmax线性分类器。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于东莞理工学院,未经东莞理工学院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111354317.1/1.html,转载请声明来源钻瓜专利网。





