[发明专利]语言模型的预训练方法、装置、设备和存储介质在审
| 申请号： | 202111162206.0 | 申请日： | 2021-09-30 |
| 公开（公告）号： | CN113902005A | 公开（公告）日： | 2022-01-07 |
| 发明（设计）人： | 施云生;黄正杰;刘佳祥;冯仕堃;黄世维;何径舟 | 申请（专利权）人： | 北京百度网讯科技有限公司 |
| 主分类号： | G06K9/62 | 分类号： | G06K9/62;G06N3/04;G06N3/08 |
| 代理公司： | 北京清亦华知识产权代理事务所(普通合伙) 11201 | 代理人： | 罗岚 |
| 地址： | 100085 北京市*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本申请公开了一种语言模型的预训练方法、装置、设备和存储介质，涉及计算机技术领域，尤其涉及深度学习及自然语言处理领域。具体实现方案为：根据搜索词、搜索结果和历史行为日志，构建语义图，并对语义图进行采样，生成第一文本序列；对第一文本序列中的第一文本进行掩码处理，得到第二文本序列，并通过初始模型之中编码器对第二文本序列中第二文本进行编码，生成第二文本的第一语义表征；将第一语义表征输入至初始模型之中图聚合模块，获得第二文本的第二语义表征；对第二语义表征进行掩码预测，获得第二文本中掩盖词的预测值，并根据掩盖词的预测值和真实值，确定损失函数；根据损失函数，对初始模型进行预训练，得到语言模型。 | ||
| 搜索关键词： | 语言 模型 训练 方法 装置 设备 存储 介质 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司，未经北京百度网讯科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202111162206.0/，转载请声明来源钻瓜专利网。
- 上一篇：显示面板与显示装置
- 下一篇：一种群聊构建方法、设备及存储介质
