[发明专利]应用于卷积神经网络的信息处理方法和装置在审
申请号: | 201810896363.6 | 申请日: | 2018-08-08 |
公开(公告)号: | CN109165736A | 公开(公告)日: | 2019-01-08 |
发明(设计)人: | 留春钿 | 申请(专利权)人: | 北京字节跳动网络技术有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04 |
代理公司: | 北京英赛嘉华知识产权代理有限责任公司 11204 | 代理人: | 王达佐;马晓亚 |
地址: | 100041 北京市石景山区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 卷积神经网络 卷积 初始参数 归一化 方法和装置 目标参数 信息处理 量化 处理数据 函数关系 合并 层合并 计算量 连接层 浮点 减小 申请 运算 替换 应用 | ||
1.一种应用于卷积神经网络的信息处理方法,所述方法包括:
将卷积神经网络中的归一化层合并到卷积层中,合并的步骤包括:基于归一化层的初始参数和卷积层的初始参数之间的函数关系,确定替换所述归一化层的初始参数和所述卷积层的初始参数的目标参数,将所述目标参数作为卷积层的参数,其中,卷积神经网络中的参数包括浮点型参数;
对卷积层的参数和全连接层的参数进行量化,得到量化后的卷积神经网络。
2.根据权利要求1所述的方法,其中,所述对卷积层的参数和全连接层的参数进行量化,包括:
将卷积层的浮点型参数和全连接层的浮点型参数转化为包括整数型参数与系数的表达式,其中,在所述表达式中,所述系数与所述整数型参数相乘,或者所述系数为所述整数型参数的指数。
3.根据权利要求2所述的方法,其中,在所述对卷积层的参数和全连接层的参数进行量化之前,所述方法还包括:
对于卷积层和全连接层的各层,获取至少两个待选的系数,确定各待选的系数对应的、该层的整数型参数;利用该层的整数型参数,确定各待选的系数对应的该层的损失值;将该层的最小的损失值所对应的待选的系数确定为该层的系数,其中,该层的系数的数量为至少一个。
4.根据权利要求2所述的方法,其中,在所述得到量化后的卷积神经网络之后,所述方法还包括:
将指定对象输入所述量化后的卷积神经网络,得到从卷积神经网络输出的指定对象所对应的处理结果。
5.根据权利要求4所述的方法,其中,在所述将指定对象输入所述量化后的卷积神经网络之后,所述方法还包括:
对于卷积层和全连接层的各层,基于该层的整数型参数得到该层的初始结果;基于所述初始结果与该层的系数,利用表达式中整数型参数与该层的系数的运算规则确定该层的结果。
6.根据权利要求1所述的方法,其中,所述方法还包括:
确定所述卷积神经网络的总损失值;
利用所述总损失值在所述卷积神经网络反向传播,对量化后的卷积神经网络中的参数进行参数调整。
7.一种应用于卷积神经网络的信息处理装置,所述装置包括:
合并单元,被配置成将卷积神经网络中的归一化层合并到卷积层中,合并的步骤包括:基于归一化层的初始参数和卷积层的初始参数之间的函数关系,确定替换所述归一化层的初始参数和所述卷积层的初始参数的目标参数,将所述目标参数作为卷积层的参数,其中,卷积神经网络中的参数包括浮点型参数;
量化单元,被配置成对卷积层的参数和全连接层的参数进行量化,得到量化后的卷积神经网络。
8.根据权利要求7所述的装置,其中,所述量化单元,进一步被配置成:
将卷积层的浮点型参数和全连接层的浮点型参数转化为包括整数型参数与系数的表达式,其中,在所述表达式中,所述系数与所述整数型参数相乘,或者所述系数为所述整数型参数的指数。
9.根据权利要求8所述的装置,其中,所述装置还包括:
确定单元,被配置成对于卷积层和全连接层的各层,获取至少两个待选的系数,确定各待选的系数对应的、该层的整数型参数;利用该层的整数型参数,确定各待选的系数对应的该层的损失值;将该层的最小的损失值所对应的待选的系数确定为该层的系数,其中,该层的系数的数量为至少一个。
10.根据权利要求8所述的装置,其中,所述装置还包括:
运行单元,被配置成将指定对象输入所述量化后的卷积神经网络,得到从卷积神经网络输出的指定对象所对应的处理结果。
11.根据权利要求10所述的装置,其中,所述运行单元,还被配置成:
对于卷积层和全连接层的各层,基于该层的整数型参数得到该层的初始结果;基于所述初始结果与该层的系数,利用表达式中整数型参数与该层的系数的运算规则确定该层的结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京字节跳动网络技术有限公司,未经北京字节跳动网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810896363.6/1.html,转载请声明来源钻瓜专利网。