[发明专利]一种近似计算批量归一化层的硬件架构及方法在审
| 申请号: | 202310146623.9 | 申请日: | 2023-02-21 |
| 公开(公告)号: | CN116205287A | 公开(公告)日: | 2023-06-02 |
| 发明(设计)人: | 张旭翀;罗福杰;李宝婷;汪航;贾轶杰;孙宏滨 | 申请(专利权)人: | 西安交通大学 |
| 主分类号: | G06N3/082 | 分类号: | G06N3/082;G06N3/063;G06N3/04 |
| 代理公司: | 西安通大专利代理有限责任公司 61200 | 代理人: | 张宇鸽 |
| 地址: | 710049 陕*** | 国省代码: | 陕西;61 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | 本发明公开了一种近似计算批量归一化层的硬件架构及方法,硬件架构包括:前向传播模块,用于在深度神经网络正向传播过程中近似计算BN层的前向计算过程;反向传播模块,用于深度神经网络在反向梯度传播时进行梯度信息的计算。本发明提出通过一个批次特征图中,每张特征图的最大神经元和最小神经元的平均值来近似计算小批量的总体均值;同时,使用比例调整因子C,通过将其与小批量的每个特征图的最大神经元与最小神经元差值的均值相乘,来近似计算小批量的总体标准差,从而近似计算BN层。本发明能够有效减少BN层(即批量归一化层)的浮点运算次数和外部存储器访问次数。 | ||
| 搜索关键词: | 一种 近似 计算 批量 归一化 硬件 架构 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于西安交通大学,未经西安交通大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202310146623.9/,转载请声明来源钻瓜专利网。





