[发明专利]原生张量处理器及张量缩并的分割有效
申请号: | 201810443860.0 | 申请日: | 2018-05-10 |
公开(公告)号: | CN108874745B | 公开(公告)日: | 2020-02-14 |
发明(设计)人: | 吕坚平;邓宇轩 | 申请(专利权)人: | 北京异构智能科技有限公司 |
主分类号: | G06F17/16 | 分类号: | G06F17/16 |
代理公司: | 44224 广州华进联合专利商标代理有限公司 | 代理人: | 何冲;黄隶凡 |
地址: | 100193 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 原生张量处理器使用外积之和计算张量缩并。在一种实现中,原生张量处理器优选地被实现为单一集成电路,并且包括输入缓冲器和缩并引擎。输入缓冲器缓冲从片外检索的张量元素,并根据需要将元素传输到缩并引擎。缩并引擎通过执行来自等价矩阵乘法的计算来计算张量缩并,就好像张量被展开成矩阵一样,但避免了明确展开张量的开销。缩并引擎包括多个外积单元,多个外积单元通过外积之和计算矩阵乘法。通过使用外积,等价矩阵乘法可以被分割成更小的矩阵乘法,这些更小的矩阵乘法在所需的局部张量间进行。 | ||
搜索关键词: | 引擎 矩阵乘法 处理器 输入缓冲器 等价矩阵 乘法 矩阵 单一集成电路 量元素 分割 地被 缓冲 优选 检索 传输 | ||
【主权项】:
1.使用原生张量处理器计算张量TX和TY的缩并的方法,其中所述张量TX和TY的缩并的特征在于等价矩阵乘法X(l,n)×Y(n,m)=Z(l,m),其中X是对于张量TX的展开矩阵,Y是对于张量TY的展开矩阵,并且l=1…L和m=1…M是第一自由指数,并且n=1…N是第一缩并指数;并且原生张量处理器包括缩并引擎,缩并引擎包括分配部段、处理部段和收集部段,所述处理部段包括多个原子处理元素,所述多个原子处理元素(a)计算外积α×β,其中α是ι×1列向量,并且β是
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京异构智能科技有限公司,未经北京异构智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810443860.0/,转载请声明来源钻瓜专利网。