[发明专利]预训练模型获取方法、装置、电子设备及存储介质有效
| 申请号： | 202110734498.4 | 申请日： | 2021-06-30 |
| 公开（公告）号： | CN113408636B | 公开（公告）日： | 2023-06-06 |
| 发明（设计）人： | 王丽杰;张帅;肖欣延;常月;李婷婷 | 申请（专利权）人： | 北京百度网讯科技有限公司 |
| 主分类号： | G06F18/214 | 分类号： | G06F18/214;G06N20/00 |
| 代理公司： | 北京鸿德海业知识产权代理有限公司 11412 | 代理人： | 谷春静 |
| 地址： | 100085 北京市*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本公开提供了预训练模型获取方法、装置、电子设备及存储介质，涉及自然语言处理及深度学习等人工智能领域，其中的方法可包括：在利用训练语句对预训练模型进行训练的过程中，针对其中的自注意力模块，定义句法信息对应的学习目标；根据所定义的学习目标进行预训练模型的训练。应用本公开所述方案，可提升预训练模型的性能，并可减少对于计算资源的消耗等。 | ||
| 搜索关键词： | 训练 模型 获取 方法 装置 电子设备 存储 介质 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司，未经北京百度网讯科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202110734498.4/，转载请声明来源钻瓜专利网。
