[发明专利]一种基于对抗训练的编码文本生成方法、装置及电子设备在审
| 申请号： | 202210188203.2 | 申请日： | 2022-02-28 |
| 公开（公告）号： | CN114692570A | 公开（公告）日： | 2022-07-01 |
| 发明（设计）人： | 林远平;甘伟超;喻广博;邹鸿岳;周靖宇 | 申请（专利权）人： | 北京快确信息科技有限公司 |
| 主分类号： | G06F40/126 | 分类号： | G06F40/126;G06N3/04;G06N3/08 |
| 代理公司： | 广东良马律师事务所 44395 | 代理人： | 李良 |
| 地址： | 100000 北京市西*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种基于对抗训练的编码文本生成方法、装置及电子设备，方法包括：预先构建对抗生成网络；对所述对抗生成网络进行优化，生成优化后的对抗生成网络，所述优化后的对抗生成网络中每次训练中的丢弃掩码不固定；根据对抗生成网络对预训练模型进行对抗训练，生成目标预训练模型；将待处理的债券信息输入目标预训练模型，生成编码文本。本发明实施例不再采用固定的dropout mask，而是采用概率分布衡量指标或者均方误差等约束两次不同dropout的模型输出差异，使得dropout能够发挥其本身的作用，也能使得两次不同dropout的模型输出尽量保持一致，提高了预训练模型对文本的理解能力，提高文本编码效率。 | ||
| 搜索关键词： | 一种 基于 对抗 训练 编码 文本 生成 方法 装置 电子设备 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京快确信息科技有限公司，未经北京快确信息科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202210188203.2/，转载请声明来源钻瓜专利网。
