[发明专利]基于质量感知的文本生成方法、设备、存储介质及装置有效
申请号: | 201911040951.0 | 申请日: | 2019-10-29 |
公开(公告)号: | CN111061867B | 公开(公告)日: | 2022-10-25 |
发明(设计)人: | 邓黎明;庄伯金;王少军 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F40/30;G10L15/26 |
代理公司: | 深圳市世纪恒程知识产权代理事务所 44287 | 代理人: | 徐进之 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 质量 感知 文本 生成 方法 设备 存储 介质 装置 | ||
本发明公开了一种基于质量感知的文本生成方法、设备、存储介质及装置,该方法通过获取待处理语料集,将待处理语料集进行多线程处理,通过序列到序列模型生成文本草稿,通过训练好的质量感知遮挡语言模型,对文本草稿中待替换字的位置进行预测,根据预测的目标位置的上下文语境对目标位置的语义进行预测,获得目标字,结合上下文语境能够提高语义预测的准确性;通过训练好的质量感知遮挡语言模型,将目标字替换待替换字,获得新的文本草稿,返回根据新的文本草稿通过训练好的质量感知遮挡语言模型,对新的文本草稿中待替换字的位置进行预测的步骤,直至所有待替换字均被替换,获得目标文本,基于人工智能,通过多次迭代提高文本生成质量。
技术领域
本发明涉及人工智能的技术领域,尤其涉及一种基于质量感知的文本生成方法、设备、存储介质及装置。
背景技术
现有的文本生成方法主要是基于序列到序列的模型(Seq2seq)的单轮生成方法,该模型在文本生成阶段,是由左到右(或由右到左)逐字单向生成的,只考虑了前面已经生成的文本信息,一旦前面文本生成效果不好,则会对后生成的文本产生较大影响,造成偏差累积。目前的多轮迭代技术,采用的也是简单的从左到右每个字都更新一次,人工设定迭代轮次,相当于完全重新生成了整个文本。该方法存在三个关键问题:第一,无法判断生成的文本中哪些字词需要修改,哪些字词可以保留;第二,不能获得更符合该语境的字?第三,人工设定迭代轮次非常的经验化,无法明确迭代终止的客观条件是什么,导致自动生成的文本质量不佳。
上述内容仅用于辅助理解本发明的技术方案,并不代表承认上述内容是现有技术。
发明内容
本发明的主要目的在于提供一种基于质量感知的文本生成方法、设备、存储介质及装置,旨在解决现有技术中自动生成的文本质量不佳的技术问题。
为实现上述目的,本发明提供一种基于质量感知的文本生成方法,所述基于质量感知的文本生成方法包括以下步骤:
获取待处理语料集,将所述待处理语料集进行多线程处理,通过序列到序列模型生成文本草稿;
根据所述文本草稿通过训练好的质量感知遮挡语言模型,对所述文本草稿中待替换字的位置进行预测,获得所述待替换字的目标位置;
通过所述训练好的质量感知遮挡语言模型,根据所述目标位置的上下文语境信息对所述目标位置的语义进行预测,获得所述目标位置对应的目标字;
通过所述训练好的质量感知遮挡语言模型,将所述目标字替换所述待替换字,获得第一次迭代文本,将所述第一次迭代文本作为新的文本草稿,返回所述根据所述新的文本草稿通过训练好的质量感知遮挡语言模型,对所述新的文本草稿中待替换字的位置进行预测,获得所述待替换字的目标位置的步骤,直至所述文本草稿中所有所述待替换字均被替换,迭代终止,获得迭代更新后的目标文本。
优选地,所述根据所述文本草稿通过训练好的质量感知遮挡语言模型,对所述文本草稿中待替换字的位置进行预测,获得所述待替换字的目标位置之前,所述基于质量感知的文本生成方法还包括:
获取标准文本,对所述标准文本中的字进行随机替换,获得替换文本;
建立待训练质量感知遮挡语言模型;
根据所述标准文本和所述替换文本对所述待训练质量感知遮挡语言模型进行训练,获得训练好的质量感知遮挡语言模型。
优选地,所述替换文本包括:第一预设比例的第一替换文本、第二预设比例的第二替换文本和第三预设比例的标准文本;
所述获取标准文本,对所述标准文本中的字进行随机替换,获得替换文本,包括:
通过随机标记,选取所述标准文本中每句话中的任意一个字随机替换为另外一个字获得第一替换文本,并记录被替换的字的位置标签,所述第一预设比例为所述第一替换文本占所有替换文本的比例;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911040951.0/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种凹凸棒土复合脱酸材料及其应用
- 下一篇:用于目标检测网络的通道剪枝方法