[发明专利]一种多任务模型蒸馏方法、系统、介质及电子终端在审
申请号: | 202111009408.1 | 申请日: | 2021-08-31 |
公开(公告)号: | CN113706347A | 公开(公告)日: | 2021-11-26 |
发明(设计)人: | 何哲宇 | 申请(专利权)人: | 深圳壹账通智能科技有限公司 |
主分类号: | G06Q50/20 | 分类号: | G06Q50/20;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 上海汉之律师事务所 31378 | 代理人: | 冯华 |
地址: | 518066 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及人工智能技术领域,尤其涉及一种多任务模型蒸馏方法、系统、介质及电子终端,方法包括:当按照预设的任务训练顺序对多任务模型进行多个任务的一次轮换训练时,冻结多任务模型的中间参数层,保留嵌入层、以及多个与任务相对应的分类层,多任务模型的中间参数层包括多个第一子层,冻结多任务模型的中间参数层的步骤包括:冻结多任务模型的中间参数层中的全部参数或部分参数;将经过多任务轮换训练的嵌入层、冻结的中间参数层以及与任务对应的任一分类层作为教师模型,利用教师模型,进行模型蒸馏,获取多个蒸馏后的学生模型,对多个蒸馏后的学生模型进行二次轮换训练,进而确定最终模型,避免多任务之间产生对抗。 | ||
搜索关键词: | 一种 任务 模型 蒸馏 方法 系统 介质 电子 终端 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳壹账通智能科技有限公司,未经深圳壹账通智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202111009408.1/,转载请声明来源钻瓜专利网。
- 上一篇:一种熔融钢渣渣处理过程中余热回收的方法
- 下一篇:一种阵列贴片式无线电引信