[发明专利]一种深度学习预处理的实现方法及深度学习网络在审
申请号: | 202210857047.4 | 申请日: | 2022-07-20 |
公开(公告)号: | CN115294354A | 公开(公告)日: | 2022-11-04 |
发明(设计)人: | 邱丰;徐林 | 申请(专利权)人: | 镕铭微电子(济南)有限公司 |
主分类号: | G06V10/44 | 分类号: | G06V10/44;G06V10/82;G06N3/08;G06N3/04 |
代理公司: | 工业和信息化部电子专利中心 11010 | 代理人: | 华枫 |
地址: | 250100 山东省济南市自由贸易试验区济南片区唐*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 深度 学习 预处理 实现 方法 网络 | ||
本发明提出了一种深度学习预处理的实现方法及深度学习网络,深度学习预处理的实现方法包括:基于深度学习的预处理操作,对深度学习网络中的第一个卷积层的原参数进行调整,使经调整参数后的第一个卷积层的输出与进行预处理操作再经原参数的第一个卷积层的输出结果相同;将调整后的参数作为第一卷积层的运行参数。本发明通过改变深度学习第一个卷积层参数的方式来实现模型推理预处理的功能,从而达到简化模型推理,提高推理效率的目的。修改模型的过程不需要重新训练,不需要修改模型结构,不需要增加计算量,其精度和原始模型一致,且解决了现有预处理技术中的延时和带宽性能影响问题。
技术领域
本发明涉及机器学习技术领域,尤其涉及一种深度学习预处理的实现方法及深度学习网络。
背景技术
随着深度学习在声音、图像、视频领域的不断发展,越来越多的应用场景不断的被发现。
对于此类的应用,采用深度学习进行智能分析和优化正在成为业界标准。与此同时,大量的基于GPU,或者其他定制化硬件加速器也不断涌现,为此类应用提供低功耗、高性能的硬件加速。
现代的深度学习往往基于深层卷积神经网络,为了训练准确的模型,业界通常采用的模型训练架构包括了Tensorflow,PyTorch等。而根据架构的不同,有些图像模型其支持的输入为RGB格式,而另外一些则是BGR格式。为了保证训练过程的收敛,在训练之前则需要对输入图像进行预处理,通常是进行某种归一化。正是由于模型训练过程中这些预处理,在模型推理过程中,也必须使用同样的预处理才能保证模型的精确度。
对于传统的基于GPU+CPU的推理架构中,输入的图像首先加载到主机端的内存中,然后进行预处理,包括归一化,以及RGB色彩频道的交换。然后加载到GPU的显存中,适用GPU对预处理后的数据,依据模型的参数进行推理,并产生结果,然后传送到主机端的内存中。其中,数据预处理在主机端的CPU中进行,对主机的负载有着一定的影响。
而对于高吞吐量、低延时、低功耗的应用场景下,采用定制化的硬件加速器,由于芯片大小和功耗的限制,其硬件加速器的CPU通常性能不佳,往往不能达到大规模数据预处理的要求。而通过使用主机端的CPU进行预处理,则需要多次在加速器和主机直接进行数据交换,增加了延时,其性能受到DDR性能瓶颈的限制。
发明内容
本发明要解决的技术问题是如何解决深度学习预处理中的时延和带宽影响问题,本发明提出一种深度学习预处理的实现方法及深度学习网络。
根据本发明实施例的深度学习预处理的实现方法,包括:
基于深度学习的预处理操作,对深度学习网络中的第一个卷积层的原参数进行调整,使经调整参数后的第一个所述卷积层的输出与进行预处理操作再经原参数的第一个卷积层的输出结果相同;
将调整后的参数作为第一卷积层的运行参数。
根据本发明实施例的深度学习预处理的实现方法,通过改变深度学习第一个卷积层参数的方式来实现模型推理预处理的功能,从而达到简化模型推理,提高推理效率的目的。修改模型的过程不需要重新训练,不需要修改模型结构,不需要增加计算量,其精度和原始模型一致,且解决了现有预处理技术中的延时和带宽性能影响问题。
根据本发明的一些实施例,对第一个卷积层的进行调整的原参数包括权重和偏移量。
在本发明的一些实施例中,所述预处理操作包括:颜色频道转换和/或归一化处理。
根据本发明的一些实施例,当预处理操作包括颜色频道转换时,对原参数的调整包括对颜色对应的权重频道进行交换。
根据本发明的一些实施例,当预处理操作包括归一化处理时,对原参数的调整包括:对第一个卷积层的权重进行修改。
根据本发明的一些实施例,当第一个卷积层或第一个卷积层之前存在填充操作时,根据平均值对填充参数进行调整。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于镕铭微电子(济南)有限公司,未经镕铭微电子(济南)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210857047.4/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种气力滚筒式蔬菜排种器
- 下一篇:一种煤矿用刮板输送机链轮组件