[发明专利]语言模型训练方法、数据处理方法及装置在审
申请号: | 202211249950.9 | 申请日: | 2022-10-12 |
公开(公告)号: | CN116151265A | 公开(公告)日: | 2023-05-23 |
发明(设计)人: | 吕乐宾;蒋宁;肖冰;李宽;丁隆耀 | 申请(专利权)人: | 马上消费金融股份有限公司 |
主分类号: | G06F40/30 | 分类号: | G06F40/30;G06F40/216;G06N3/04;G06N3/0895 |
代理公司: | 北京国昊天诚知识产权代理有限公司 11315 | 代理人: | 姚琳洁 |
地址: | 401121 重庆市渝北区*** | 国省代码: | 重庆;50 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请实施例公开了一种语言模型训练方法、数据处理方法及装置。语言模型训练方法包括:获取样本语义数据,包括多个样本语句组成的样本文本、每个样本语句中的各字符在对应样本语句中的第一字符位置信息、以及每个样本语句在样本文本中的第一语句位置信息;将样本语义数据输入待训练的语言模型,对多个样本语句进行乱序处理,得到多个乱序语句组成的乱序文本、每个乱序语句中的各字符在对应乱序语句中的第二字符位置信息,以及每个乱序语句在乱序文本中的第二语句位置信息;对多个乱序语句进行还原处理,得到还原语义数据;基于样本语义数据和还原语义数据进行模型训练。该技术方案能够提升语言模型的模型性能。 | ||
搜索关键词: | 语言 模型 训练 方法 数据处理 装置 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于马上消费金融股份有限公司,未经马上消费金融股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202211249950.9/,转载请声明来源钻瓜专利网。
- 上一篇:膜包包装膜分离系统、膜包开包机
- 下一篇:一种腈纶织布生产用放线设备