[发明专利]一种基于预训练语言模型的文本生成方法有效
| 申请号： | 202210133050.1 | 申请日： | 2022-02-14 |
| 公开（公告）号： | CN114510924B | 公开（公告）日： | 2022-09-20 |
| 发明（设计）人： | 冯骁骋;秦兵;顾宇轩;刘挺;马思成 | 申请（专利权）人： | 哈尔滨工业大学 |
| 主分类号： | G06F40/216 | 分类号： | G06F40/216;G06F40/289;G06F40/30;G06F16/35 |
| 代理公司： | 哈尔滨华夏松花江知识产权代理有限公司 23213 | 代理人： | 岳昕 |
| 地址： | 150001 黑龙*** | 国省代码： | 黑龙江;23 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 一种基于预训练语言模型的文本生成方法，它属于自然语言处理技术领域。本发明解决了现有加权解码的可控生成方法无法在保证生成文本质量的前提下达到理想风格强度的问题。本发明提出了能够动态调节控制器权重的加权解码框架，该框架使用了一个规整模块，能够根据当前解码位置的语言模型信息对控制器的行为进行约束。如果当前解码位置不适合生成包含目标风格的词语时，规整模块会抑制控制器并使其失效；如果当前解码位置可以生成与目标风格相关的词语时，规整模块会增强控制器并确保在该解码位置生成的词语包含目标风格。本发明方法可以应用于可控文本生成。 | ||
| 搜索关键词： | 一种 基于 训练 语言 模型 文本 生成 方法 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于哈尔滨工业大学，未经哈尔滨工业大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202210133050.1/，转载请声明来源钻瓜专利网。
