[发明专利]任务处理网络生成、任务处理方法、装置及电子设备有效
申请号: | 202110778034.3 | 申请日: | 2021-07-09 |
公开(公告)号: | CN113610215B | 公开(公告)日: | 2022-09-09 |
发明(设计)人: | 郭义;袁欢;谈建超;杨森;刘霁 | 申请(专利权)人: | 北京达佳互联信息技术有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/063;G06N3/08 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郝传鑫;贾允 |
地址: | 100085 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 任务 处理 网络 生成 方法 装置 电子设备 | ||
1.一种任务处理网络生成方法,其特征在于,包括:
获取目标任务对应的训练数据,所述训练数据包括多媒体资源和所述多媒体资源对应任务标注结果;
将预设掩码信息插入预设深度学习网络的待剪枝通道,得到待训练网络,所述预设掩码信息为基于掩码学习参数和预设衰减参数确定的,所述预设衰减参数在所述待训练网络训练过程中衰减至小于等于第一预设阈值,在所述预设衰减参数小于等于第一预设阈值,且所述掩码学习参数等于零的情况下,所述预设掩码信息为零,或在所述预设衰减参数小于等于第一预设阈值,且所述掩码学习参数不等于零的情况下,所述预设掩码信息与一的差值小于等于第二预设阈值;
将所述多媒体资源输入所述待训练网络进行任务处理,得到第一预测任务结果;
根据所述任务标注结果、所述第一预测任务结果和所述掩码学习参数,确定第一损失信息;
基于所述第一损失信息训练所述待训练网络,得到初始任务处理网络;
去除所述初始任务处理网络中的预设掩码信息,得到待剪枝网络;对所述待剪枝网络中预设掩码信息为零的待剪枝通道进行剪枝处理,得到所述目标任务处理网络。
2.根据权利要求1所述的任务处理网络生成方法,其特征在于,所述基于所述第一损失信息训练所述待训练网络,得到初始任务处理网络包括:
在所述第一损失信息未满足预设条件的情况下,对所述预设衰减参数进行衰减处理,并基于所述第一损失信息更新所述预设深度学习网络的网络参数和所述掩码学习参数,得到更新后的待训练网络;
基于所述更新后的待训练网络重复所述将所述多媒体资源输入所述待训练网络进行任务处理,得到第一预测任务结果至所述根据所述任务标注结果、所述第一预测任务结果和所述掩码学习参数,确定第一损失信息的步骤;
在所述第一损失信息满足所述预设条件,且所述预设衰减参数衰减至小于等于所述第一预设阈值的情况下,将当前的待训练网络作为所述初始任务处理网络。
3.根据权利要求1所述的任务处理网络生成方法,其特征在于,所述待剪枝通道包括所述预设深度学习网络中信息交互层之前的通道,所述信息交互层为具有多个不同信息输入通道的层,所述预设掩码信息包括多个掩码信息,所述将预设掩码信息插入预设深度学习网络的待剪枝通道,得到待训练网络包括:
基于所述预设深度学习网络中通道对应的传输顺序遍历所述信息交互层之前的通道;
在遍历到任一通道的情况下,若当前遍历到的通道对应的输入信息的来源通道未插入掩码信息,在所述当前遍历到的通道插入所述多个掩码信息中的任一掩码信息;
若当前遍历到的通道对应的输入信息的来源通道已插入掩码信息,在所述当前遍历到的通道插入所述来源通道中插入的掩码信息;
将遍历结束后的预设深度学习网络,作为所述待训练网络。
4.根据权利要求1所述的任务处理网络生成方法,其特征在于,所述根据所述任务标注结果、所述第一预测任务结果和所述掩码学习参数,确定第一损失信息包括:
根据所述任务标注结果和所述第一预测任务结果确定任务结果损失信息;
基于所述掩码学习参数确定所述待训练网络的资源消耗量;
根据所述任务结果损失信息和所述资源消耗量确定第一损失信息。
5.根据权利要求4所述的任务处理网络生成方法,其特征在于,所述基于所述掩码学习参数确定所述待训练网络的资源消耗量包括:
确定所述掩码学习参数中非零的参数数量;
根据所述参数数量确定所述资源消耗量。
6.根据权利要求1至5任一所述的任务处理网络生成方法,其特征在于,所述方法还包括:
将所述多媒体资源输入原始深度学习网络进行任务处理,得到第二预测任务结果,所述原始深度学习网络包括卷积神经网络、循环神经网络;
根据所述第二预测任务结果和所述任务标注结果,确定第二损失信息;
基于所述第二损失信息训练所述原始深度学习网络,将所述第二损失信息满足预设条件的情况下的原始深度学习网络,作为所述预设深度学习网络。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京达佳互联信息技术有限公司,未经北京达佳互联信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110778034.3/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种路面污水处理收集装置
- 下一篇:一种椰肉装袋加工设备及其加工工艺