[发明专利]一种基于近似计算的二值权重卷积神经网络硬件加速器计算装置有效

专利信息
申请号: 201710029955.3 申请日: 2017-01-12
公开(公告)号: CN106909970B 公开(公告)日: 2020-04-21
发明(设计)人: 王中风;王逸致;林军;周杨灿 申请(专利权)人: 南京风兴科技有限公司
主分类号: G06N3/063 分类号: G06N3/063
代理公司: 北京弘权知识产权代理事务所(普通合伙) 11363 代理人: 逯长明;许伟群
地址: 210032 江苏省南京市*** 国省代码: 江苏;32
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 基于 近似 计算 权重 卷积 神经网络 硬件 加速器 装置
【权利要求书】:

1.一种基于近似计算的二值权重卷积神经网络硬件加速器的计算装置,包括:

多个输入神经元输入端,用于接收输入神经元数据值,所述输入神经元输入端包括四个输入通道,每个输入通道有若干个的数据输入端;

多个二值权重卷积核输入端,所述二值权重卷积核输入端包括四个输入通道,每个输入通道有若干个权重值的输入端;

多个近似二值乘法器,用于进行二值权重与输入神经元的乘法计算,所述近似二值乘法器包括四个输入通道,每个输入通道有若干个近似二值乘法器;

一个压缩器树,用于将若干个并行输入通道,每个输入通道若干个输入神经元在进行二值乘法计算后的结果进行快速相加;此压缩器树包含多个3:2压缩器和4:2压缩器;

第一近似加法器,用于将压缩器树输出的两个数值结果进行相加;

一个串行累加单元,用于将所述第一近似加法器的运算结果进行串行累加,或是与偏置项结合;

其中,串行累加单元,包括:

第二近似加法器,用于将第一近似加法器的结果与偏置项,或是近似二值乘法器的补偿项,或是中间结果暂存器的数据进行累加;

饱和逻辑,用于防止第二近似加法器计算结果的溢出而进行饱和处理;

中间结果暂存器,用于暂存累加的中间结果以进入下一次累加;

多路选择器,用于接收输入的偏置项,或是近似二值乘法器补偿项,或是暂存器中的计算中间结果,并根据控制信号选择送入第二近似加法器的项;

数据门选通寄存器,通过选通信号用于输出卷积结果,并在卷积结果未完全计算完毕时阻止数据输出;

压缩器树中的3:2压缩器由多个1比特全加器构成;1比特全加器的三个输入分别为3:2压缩器的3个输入X、Y、Z的某一个比特;输出为S、C,他们的关系满足:X+Y+Z=S+C×2,每个1比特全加器无相互连接;

压缩器树中的4:2压缩器由多个1比特全加器构成,与3:2压缩器不同的是在4:2压缩器中由两个1比特全加器作为一个基本单元;每个基本单元内包含一个第一全加器和第二全加器;第一全加器的三个输入为4:2压缩器的4个输入中某三个输入的某一个比特,进位输出连接至下一个比特的基本单元的第二全加器的输入之一,另一输出连接至第二全加器输入之一;基本单元内的第二全加器的三个输入分别来自于上一个比特的基本单元的第一全加器的进位输出、当前基本单元第一全加器的输出之一,以及整个4:2压缩器中4个输入之一的某比特;4:2压缩器的输入为X、Y、Z、W、Cin,输出为Carry、Sum,他们都有多个比特,则满足以下关系:X+Y+Z+W+Cin=2×Carry+Sum。

2.如权利要求1所述的一种基于近似计算的二值权重卷积神经网络硬件加速器的计算装置,其特征在于,还包括多个寄存器,其中所述多个寄存器被配置为实现流水线操作。

3.如权利要求1所述的一种基于近似计算的二值权重卷积神经网络硬件加速器的计算装置,其特征在于,可通过扩展支持多种卷积核大小,卷积核大小为3×3,5×5,7×7;根据需要的不同的卷积核大小,输入神经元输入端、二值权重卷积核输入端、近似二值乘法器的数量、并行输入通道数量进行相应扩展;针对3×3卷积核,输入神经元输入端、二值权重卷积核输入端、近似二值乘法器的数量则设定为9个。

4.如权利要求1所述的一种基于近似计算的二值权重卷积神经网络硬件加速器的计算装置,其特征在于,第一近似加法器或第二近似加法器,包括:

第一子加法器,用于近似的计算第一近似加法器或第二近似加法器输入数据的高位之和;第一子加法器的最低位进位连接到第二子加法器某一个输入的最高位;

第二子加法器,用于计算第一近似加法器或第二近似加法器输入数据的低位之和;

一个输出并接模块,用于将第一子加法器、第二子加法器的计算结果并接起来并输出。

5.如权利要求1所述的一种基于近似计算的二值权重卷积神经网络硬件加速器的计算装置,其特征在于,近似二值乘法器的输入其中之一为二值权重,其数字值为+1或-1,使用1个比特分别表示,0表示-1,1表示+1。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京风兴科技有限公司,未经南京风兴科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201710029955.3/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top