[发明专利]文本预测方法、装置、设备以及存储介质在审
申请号: | 202110380399.0 | 申请日: | 2021-04-08 |
公开(公告)号: | CN113704391A | 公开(公告)日: | 2021-11-26 |
发明(设计)人: | 王唯康;胡敏达 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F16/35;G06F40/126;G06F40/194;G06F40/30;G06N3/04;G06N3/08 |
代理公司: | 北京市立方律师事务所 11330 | 代理人: | 张筱宁 |
地址: | 518000 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 预测 方法 装置 设备 以及 存储 介质 | ||
本申请实施例公开了一种文本预测方法、装置、设备以及存储介质,可适用于人工智能、计算机等领域。该方法包括:获取目标查询文本以及目标查询文本对应的目标结果文本;基于目标查询文本和目标结果文本,通过文本预测模型从目标结果文本中确定目标答案文本。采用本申请实施例,可提升文本预测的效率和准确性,适用性高。
技术领域
本申请涉及人工智能领域,尤其涉及一种文本预测方法、装置、设备以及存储介质。
背景技术
随着计算机技术和人工智能技术的不断发展,文本预测任务如答案预测,已逐渐应用于各行各业。
一方面,现有的文本预测方法基于人类说话方式进行预测,在预测知识性较强的答案时往往效果较差。另一方面,由于现有的文本预测方法往往通过掩盖词串的方式构建训练样本,或者通过主动构建上下文得到训练样本,进而由此得到的文本预测方法往往更加倾向于预测语言中的固定搭配,预测结果往往和实际结果有较大出入。
因此,如何提升文本预测的准确性成为亟需解决的问题。
发明内容
本申请实施例提供一种文本预测方法、装置、设备以及存储介质,可提升文本预测的准确性,适用性高。
一方面,本申请实施例提供一种文本预测方法,该方法包括:
获取目标查询文本以及上述目标查询文本对应的目标结果文本;
基于上述目标查询文本和上述目标结果文本,通过文本预测模型从上述目标结果文本中确定目标答案文本;
其中,上述文本预测模型是基于以下方式训练得到的:
获取多个训练文本组,每一上述训练文本组包括查询文本、上述查询文本的结果文本以及上述查询文本对应的答案文本,每一上述结果文本包括相对应的答案文本;
确定每一上述结果文本和相对应的查询文本所对应的编码特征,将各上述编码特征输入初始模型,通过上述初始模型,确定每一上述结果文本中各词对应于相对应的结果文本中答案文本所在位置的位置概率;
对于每一上述结果文本,基于该结果文本对应的位置概率和答案文本,确定该结果文本对应的第一训练损失值,基于上述第一训练损失值确定总训练损失值;
基于上述总训练损失值对上述初始模型进行迭代训练,直至上述总训练损失值满足预设的训练结束条件时,基于训练结束后的模型确定上述文本预测模型。
另一方面,本申请实施例提供了一种文本预测装置,该装置包括:
获取模块,用于获取目标查询文本以及上述目标查询文本对应的目标结果文本;
预测模块,用于基于上述目标查询文本和上述目标结果文本,通过文本预测模型从上述目标结果文本中确定目标答案文本;
上述装置包括训练模块,上述训练模块包括:
获取单元,用于获取多个训练文本组,每一上述训练文本组包括查询文本、上述查询文本的结果文本以及上述查询文本对应的答案文本,每一上述结果文本包括相对应的答案文本;
预测单元,用于确定每一上述结果文本和相对应的查询文本所对应的编码特征,将各上述编码特征输入初始模型,通过上述初始模型,确定每一上述结果文本中各词对应于相对应的结果文本中答案文本所在位置的位置概率;
确定单元,用于对于每一上述结果文本,基于该结果文本对应的位置概率和答案文本,确定该结果文本对应的第一训练损失值,基于上述第一训练损失值确定总训练损失值;
训练单元,用于基于上述总训练损失值对上述初始模型进行迭代训练,直至上述总训练损失值满足预设的训练结束条件时,基于训练结束后的模型确定上述文本预测模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110380399.0/2.html,转载请声明来源钻瓜专利网。