[发明专利]在硬件中执行矩阵乘法有效
申请号: | 201880019014.4 | 申请日: | 2018-05-17 |
公开(公告)号: | CN110447010B | 公开(公告)日: | 2023-09-26 |
发明(设计)人: | 安德鲁·埃弗里特·菲尔普斯;诺曼·保罗·约皮 | 申请(专利权)人: | 谷歌有限责任公司 |
主分类号: | G06F7/487 | 分类号: | G06F7/487;G06F9/30;G06F17/16 |
代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 周亚荣;邓聪惠 |
地址: | 美国加利*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 描述了使用硬件电路执行矩阵乘法的方法、系统和装置。示例方法由获取第一浮点格式的输入激活值和权重输入值开始。将输入激活值与权重输入值相乘以生成具有比第一浮点格式更高的精度的第二浮点格式的乘积值。获取具有比第一浮点格式更高的精度的第三浮点格式的部分和值。对部分和值和乘积值进行组合以生成具有第三浮点格式的更新的部分和值。 | ||
搜索关键词: | 硬件 执行 矩阵 乘法 | ||
【主权项】:
1.一种使用硬件电路来执行矩阵乘法的方法,所述方法包括:由所述硬件电路的矩阵计算单元获取输入激活值和权重输入值,所述输入激活值和所述权重输入值均具有第一浮点格式;由所述矩阵计算单元的乘法电路将所述输入激活值与所述权重输入值相乘以生成乘积值,所述乘积值具有第二浮点格式,所述第二浮点格式具有比所述第一浮点格式更高的精度并且具有与所述第一浮点格式的动态范围至少一样大的动态范围;由所述矩阵计算单元获取第三浮点格式的部分和值,所述第三浮点格式具有比所述第一浮点格式更高的精度并且具有与所述第一浮点格式的所述动态范围至少一样大的动态范围;以及由所述硬件电路的求和电路,至少对所述部分和值和所述乘积值进行组合以生成具有所述第三浮点格式的更新的部分和值。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于谷歌有限责任公司,未经谷歌有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201880019014.4/,转载请声明来源钻瓜专利网。