[发明专利]语言模型训练方法、装置和计算机设备有效
申请号: | 201910631027.3 | 申请日: | 2019-07-12 |
公开(公告)号: | CN110347799B | 公开(公告)日: | 2023-10-17 |
发明(设计)人: | 谭翊章;缪畅宇 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F16/35;G06F40/289;G06F40/30 |
代理公司: | 华进联合专利商标代理有限公司 44224 | 代理人: | 方高明 |
地址: | 518000 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请涉及一种语言模型训练方法、装置和计算机设备,所述方法包括:获取待处理文本及对应的标签词;将待处理文本输入至语言模型中进行处理,得到第一待选词对应的第一概率以及第二待选词对应的第二概率,其中,第一待选词为预设词表中的词,第二待选词为待处理文本中的词;根据第一概率和第二概率处理得到目标词;根据目标词与标签词的差异,调整语言模型的参数,直至满足训练停止条件,得到训练完成的目标语言模型。本申请提供的方案可以提高语言模型预测的准确性。 | ||
搜索关键词: | 语言 模型 训练 方法 装置 计算机 设备 | ||
【主权项】:
1.一种语言模型训练方法,包括:获取待处理文本及对应的标签词;将所述待处理文本输入至语言模型中进行处理,得到第一待选词对应的第一概率以及第二待选词对应的第二概率,其中,所述第一待选词为预设词表中的词,所述第二待选词为待处理文本中的词;根据所述第一概率和所述第二概率处理得到目标词;根据所述目标词与所述标签词的差异,调整所述语言模型的参数,直至满足训练停止条件,得到训练完成的目标语言模型。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910631027.3/,转载请声明来源钻瓜专利网。