[发明专利]具有驻留在芯片上的参数的神经网络加速器在审
| 申请号: | 201810908471.0 | 申请日: | 2018-08-10 |
| 公开(公告)号: | CN109389214A | 公开(公告)日: | 2019-02-26 |
| 发明(设计)人: | 奥利维尔·泰马姆;哈西特·哈伊坦;拉维·纳拉亚纳斯瓦米;禹同爀 | 申请(专利权)人: | 谷歌有限责任公司 |
| 主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/04 |
| 代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 周亚荣;安翔 |
| 地址: | 美国加利*** | 国省代码: | 美国;US |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | 本申请涉及具有驻留在芯片上的参数的神经网络加速器。加速器的一个实施例包括:计算单元;第一存储器组,其用于输入激活,和第二存储器组,其用于存储在执行计算中使用的参数,第二存储器组被配置成将足够数量的神经网络参数存储在该计算单元上以允许低于指定水平的延时以及高于指定水平的吞吐量。该计算单元包括至少一个cell,其包括至少一个乘法累加运算器,其从第二存储器组接收参数并且执行计算。该计算单元还包括第一遍历单元,其将控制信号提供到第一存储器组以使得输入激活被提供到由乘法累加运算器可访问的数据总线。该计算单元执行与数据阵列的至少一个元素相关联的计算、该一个或多个计算由乘法累加运算器所执行。 | ||
| 搜索关键词: | 计算单元 第二存储器 运算器 乘法 累加 加速器 存储器组 神经网络 驻留 存储 芯片 激活 控制信号提供 神经网络参数 遍历单元 数据阵列 数据总线 可访问 组接收 延时 吞吐量 关联 配置 申请 | ||
【主权项】:
1.一种用于加速张量计算的加速器,包括:a.计算单元;b.第一存储器组,用于存储输入激活或者输出激活中的至少一个;c.第二存储器组,用于存储在执行计算中使用的神经网络参数,所述第二存储器组被配置成将足够数量的所述神经网络参数存储在所述计算单元上以允许针对给定神经网络模型和架构的低于指定水平的延时以及高于指定水平的吞吐量;d.至少一个cell,包括至少一个乘法累加运算器,所述至少一个乘法累加运算器从所述第二存储器组接收参数并且执行计算;e.第一遍历单元,所述第一遍历单元至少与所述第一存储器组数据通信,所述第一遍历单元被配置成将控制信号提供到所述第一存储器组以使得输入激活被提供到由所述至少一个乘法累加运算器可访问的数据总线;以及f.其中,所述加速器执行与数据阵列的至少一个元素相关联的一个或多个计算,所述一个或多个计算由所述至少一个乘法累加运算器执行并且部分地包括从所述数据总线接收到的所述输入激活和从所述第二存储器组接收到的参数的乘法运算。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于谷歌有限责任公司,未经谷歌有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810908471.0/,转载请声明来源钻瓜专利网。





