[发明专利]自然语言生成及模型的训练方法、装置、设备和存储介质有效
申请号: | 202110184842.7 | 申请日: | 2021-02-10 |
公开(公告)号: | CN112861548B | 公开(公告)日: | 2023-06-23 |
发明(设计)人: | 王硕寰;尚骏远;丁思宇;孙宇 | 申请(专利权)人: | 百度在线网络技术(北京)有限公司 |
主分类号: | G06F40/56 | 分类号: | G06F40/56;G06N3/04;G06N3/08 |
代理公司: | 北京鸿德海业知识产权代理有限公司 11412 | 代理人: | 田宏宾 |
地址: | 100085 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 自然语言 生成 模型 训练 方法 装置 设备 存储 介质 | ||
本公开公开了一种自然语言生成及模型的训练方法、装置、设备和存储介质,涉及计算机技术领域,具体涉及自然语言处理、深度学习等人工智能技术领域。自然语言生成模型的训练方法包括:采用自然语言生成模型,根据用户文本对第一生成文本进行更新,以得到第二生成文本,所述第一生成文本的初始值采用所述自然语言生成模型,对所述用户文本进行处理后得到;在未达到预设的第一更新结束条件时,将所述第二生成文本作为新的第一生成文本,采用所述自然语言生成模型,根据用户文本对所述新的第一生成文本进行更新,直至达到所述第一更新结束条件;将达到所述第一更新结束条件时的第二生成文本,确定为所述用户文本对应的自然语言生成文本。本公开可以提高自然语言生成文本的质量。
技术领域
本公开涉及计算机技术领域,具体涉及自然语言处理、深度学习等人工智能技术领域,尤其涉及一种自然语言生成及模型的训练方法、装置、设备和存储介质。
背景技术
自然语言处理(Natural Language Processing,NLP)是涉及计算机科学、人工智能(Artificial Intelligence,AI)和语言学的交叉技术,目的是让计算机处理或“理解”自然语言,以执行诸如语言翻译和问题回答等任务。随着语音接口和聊天机器人的兴起,NLP成为了信息时代最重要的技术之一,是人工智能的重要组成部分。
自然语言生成(Natural Language Generation,NLU)是自然语言处理的重要组成部分,其目标是让计算机基于一段文本生成另外一段文本。
相关技术中,基于传统的序列到序列(sequence to sequence,seq2seq)技术进行自然语言生成。
发明内容
本公开提供了一种自然语言生成及模型的训练方法、装置、设备和存储介质。
根据本公开的一方面,提供了一种自然语言生成方法,包括:采用自然语言生成模型,根据用户文本对第一生成文本进行更新,以得到第二生成文本,所述第一生成文本的初始值采用所述自然语言生成模型,对所述用户文本进行处理后得到;在未达到预设的第一更新结束条件时,将所述第二生成文本作为新的第一生成文本,采用所述自然语言生成模型,根据所述用户文本对所述新的第一生成文本进行更新,直至达到所述第一更新结束条件;将达到所述第一更新结束条件时的第二生成文本,确定为所述用户文本对应的自然语言生成文本。
根据本公开的另一方面,提供了一种自然语言生成模型的训练方法,包括:获取训练数据,所述训练数据包括:已有输入数据、待修正数据和已有输出数据;根据所述训练数据构建输入样本和输出样本;采用自然语言生成模型,根据所述输入样本对第一生成结果进行更新,以得到第二生成结果,所述第一生成结果的初始值采用所述自然语言生成模型,对所述输入样本进行处理后得到;在未达到预设的第二更新结束条件时,将所述第二生成结果作为新的第一生成结果,采用所述自然语言生成模型,根据所述输入样本对所述新的第一生成结果进行更新,直至达到所述第二更新结束条件;根据达到所述第二更新结束条件时的第二生成结果,以及所述输出样本,调整所述自然语言生成模型的参数。
根据本公开的另一方面,提供了一种自然语言生成装置,包括:更新模块,用于采用自然语言生成模型,对第一生成文本进行更新,以得到第二生成文本,所述第一生成文本采用所述自然语言生成模型,对用户文本进行处理后得到;处理模块,用于在未达到预设的第一更新结束条件时,将所述第二生成文本作为新的第一生成文本,采用所述自然语言生成模型,对所述新的第一生成文本进行更新,直至达到所述第一更新结束条件;确定模块,用于将达到所述第一更新结束条件时的第二生成文本,确定为所述用户文本对应的自然语言生成文本。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于百度在线网络技术(北京)有限公司,未经百度在线网络技术(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110184842.7/2.html,转载请声明来源钻瓜专利网。