[发明专利]矩阵乘加运算装置和方法、处理装置、芯片、电子装置有效
申请号: | 201711360246.X | 申请日: | 2017-12-15 |
公开(公告)号: | CN108205519B | 公开(公告)日: | 2022-01-25 |
发明(设计)人: | 郭崎;刘少礼;陈云霁;其他发明人请求不公开姓名 | 申请(专利权)人: | 上海寒武纪信息科技有限公司 |
主分类号: | G06F17/16 | 分类号: | G06F17/16 |
代理公司: | 中科专利商标代理有限责任公司 11021 | 代理人: | 任岩 |
地址: | 201203 上海市浦东*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 矩阵 运算 装置 方法 处理 芯片 电子 | ||
1.一种矩阵乘加运算装置,用于对第一矩阵和第二矩阵进行乘加运算,其特征在于包括:
矩阵元素存储模块,包含多个存储空间,该多个存储空间用于按规则接收第一矩阵中的M×N个矩阵元素的M×N个二进制数,该规则为:所述多个存储空间的编号依次为第0个至第i-1个存储空间,i为所述二进制数的位宽,每个存储空间大小为K比特,K等于第一矩阵中的矩阵元素的个数且K=M×N,其中,第0个存储空间用于存储K个二进制数的符号位,第j个存储空间用于存储每个二进制数中第i-j+1位的比特,所述i、j、k、M和N均为正整数,并且,i≥2,1≤j≤i;
符号运算模块,用于将所述第0个存储空间中每个比特所表示的符号分别与第二矩阵中对应元素的符号进行异或运算,并将运算结果作为第二矩阵中对应元素的符号位;
数值运算模块,包括至少一个移位运算器和至少一个加法器,用于根据第j个存储空间中比特值为1的位所对应矩阵元素在矩阵中的位置,从第二矩阵中提取相应位置的矩阵元素,将所述相应位置的矩阵元素相加,将相加结果左移i-j位,得到运算中间结果;
累加模块,用于将第1~i-1个存储空间中的运算中间结果相加,得到第一矩阵与第二矩阵的乘加运算结果。
2.根据权利要求1所述的矩阵乘加运算装置,其特征在于,所述矩阵元素存储模块中,第一矩阵中矩阵元素与每个所述存储空间中各个比特位的对应关系为:每个存储空间中第k个比特位分别存储第一矩阵中第m行第n列的矩阵元素的比特,其中,1≤k≤K,并且,k=(m-1)×N+n,N为第一矩阵的总列数,1≤m≤M,1≤n≤N;或者
所述第一矩阵中矩阵元素与每个存储空间中各个比特位的对应关系为:第k个比特位存储卷积核矩阵A中第m行第n列的矩阵元素的比特,其中,1≤k≤K,并且,k=m+(n-1)×M,M为第一矩阵的总行数,1 ≤m≤M,1 ≤n≤N。
3.根据权利要求2所述的矩阵乘加运算装置,其特征在于,所述数值运算模块根据所述对应关系从第二矩阵中对应元素所在位置提取相应的矩阵元素。
4.根据权利要求1所述的矩阵乘加运算装置,其特征在于,所述数值运算模块还用于:当根据存储空间获取中间结果时,如存在相同位置矩阵元素加法操作时,则调取已计算的结果。
5.根据权利要求4所述的矩阵乘加运算装置,其特征在于,还包括中间存储模块,用于存储0~i-1个存储空间中具有至少两个相同位的比特值为1时对应的第二矩阵元素相加后的结果,以供所述数值运算模块调取。
6.根据权利要求5所述的矩阵乘加运算装置,其特征在于,所述加法器用于根据第j个存储空间中比特值为1所对应矩阵元素在矩阵中的位置,从第二矩阵中提取相应位置的矩阵元素,将所述相应位置的矩阵元素相加。
7.根据权利要求6所述的矩阵乘加运算装置,其特征在于,所述移位运算器用于将加法器中矩阵元素的相加结果左移i-j位,得到运算中间结果。
8.根据权利要求6所述的矩阵乘加运算装置,其特征在于,所述加法器还用于当根据存储空间获取中间结果时,如存在相同位置矩阵元素加法操作时,从所述中间存储模块获取已计算的结果作为加法器的输入数据。
9.根据权利要求1所述的矩阵乘加运算装置,其特征在于,所述第一矩阵和第二矩阵中矩阵行列数相同且矩阵元素为定点数。
10.根据权利要求1所述的矩阵乘加运算装置,其特征在于,还包括转换单元,用于将第一矩阵中的M×N个矩阵元素的M×N个二进制数按所述规则进行转换。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海寒武纪信息科技有限公司,未经上海寒武纪信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711360246.X/1.html,转载请声明来源钻瓜专利网。