[发明专利]数据处理方法、装置、电子设备以及存储介质在审
申请号: | 202310081210.7 | 申请日: | 2023-01-16 |
公开(公告)号: | CN116108909A | 公开(公告)日: | 2023-05-12 |
发明(设计)人: | 张环宇 | 申请(专利权)人: | OPPO广东移动通信有限公司 |
主分类号: | G06N3/082 | 分类号: | G06N3/082;G06N3/048;G06N3/047;G06N3/084;G06N3/0464 |
代理公司: | 深圳市智圈知识产权代理事务所(普通合伙) 44351 | 代理人: | 杨翔 |
地址: | 523860 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请实施例公开了一种数据处理方法、装置、电子设备以及存储介质。所述方法包括:获取待压缩模型,所述待压缩模型包括多个网络层;获取所述待压缩模型的每个网络层对应的量化比特位,所述量化比特位为基于网络层在前向推理时的模拟功率确定;在每一轮训练过程中,基于所述对应的量化比特位对所述多个网络层分别进行量化处理,得到待调整模型;并获取目标损失函数,所述目标损失函数为基于所述待压缩模型的损失函数以及新增的损失函数确定;以及基于所述目标损失函数更新所述待调整模型的参数,直至满足预设条件。本方法实现了使得量化感知训练后的量化误差更小,模型的推理精度也仍然在较好的范围内,同时也减小了模型的规模。 | ||
搜索关键词: | 数据处理 方法 装置 电子设备 以及 存储 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于OPPO广东移动通信有限公司,未经OPPO广东移动通信有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202310081210.7/,转载请声明来源钻瓜专利网。