[发明专利]分块方法及装置、卷积运算的方法及装置、存储介质在审
申请号: | 202210440010.1 | 申请日: | 2022-04-25 |
公开(公告)号: | CN114707114A | 公开(公告)日: | 2022-07-05 |
发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 上海壁仞智能科技有限公司 |
主分类号: | G06F17/16 | 分类号: | G06F17/16;G06F17/15;G06N3/04;G06F7/02;G06F5/08 |
代理公司: | 北京市柳沈律师事务所 11105 | 代理人: | 彭久云;罗莎 |
地址: | 201100 上海市闵行区*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 分块 方法 装置 卷积 运算 存储 介质 | ||
1.一种分块方法,应用于矩阵乘法运算,其中,所述矩阵乘法运算用于实现第一矩阵和第二矩阵之间的乘法运算,
所述分块方法包括:
基于所述第一矩阵和所述第二矩阵,确定输入参数,其中,所述输入参数包括所述第一矩阵的维度参数、所述第二矩阵的维度参数、所述第一矩阵和所述第二矩阵每个中的每个数据的数据尺寸、所述第一矩阵对应的加载带宽、所述第二矩阵对应的加载带宽和输入缓存器的尺寸;
基于所述输入参数,获得输出参数,其中,所述输出参数包括循环顺序以及与所述第一矩阵和所述第二矩阵对应的分块参数。
2.根据权利要求1所述的分块方法,其中,所述第一矩阵的维度参数包括第一矩阵维数和第二矩阵维数,所述第二矩阵的维度参数包括所述第二矩阵维数和第三矩阵维数,
所述分块参数包括与所述第一矩阵维数有关的第一维数外层分块参数、与所述第一维数外层分块参数有关的第一维数内层分块参数、与所述第二矩阵维数有关的第二维数分块参数、与所述第三矩阵维数有关的第三维数外层分块参数和与所述第三维数外层分块参数有关的第三维数内层分块参数,
所述循环顺序用于指示所述第一维数外层分块参数、所述第一维数内层分块参数、所述第二维数分块参数、所述第三维数外层分块参数和所述第三维数内层分块参数的顺序。
3.根据权利要求2所述的分块方法,其中,所述输入缓存器包括用于缓存所述第一矩阵中的数据的第一输入缓存器和用于缓存所述第二矩阵中的数据的第二输入缓存器,所述输入缓存器的尺寸包括所述第一输入缓存器的尺寸和所述第二输入缓存器的尺寸,
基于所述输入参数,获得输出参数,包括:
基于所述第一矩阵的维度参数和所述数据尺寸,确定所述第一矩阵对应的第一矩阵尺寸;
基于所述第二矩阵的维度参数和所述数据尺寸,确定所述第二矩阵对应的第二矩阵尺寸;
比较所述第一矩阵尺寸和所述第一输入缓存器的尺寸并比较所述第二矩阵尺寸和所述第二输入缓存器的尺寸,以确定第一比较结果;
基于所述第一比较结果,确定所述输出参数。
4.根据权利要求3所述的分块方法,其中,基于所述第一比较结果,确定所述输出参数,包括:
响应于所述第一比较结果表示所述第一矩阵尺寸小于等于所述第一输入缓存器的尺寸和/或所述第二矩阵尺寸小于等于所述第二输入缓存器的尺寸,
确定所述第二维数分块参数为所述第二矩阵维数;
比较所述第一矩阵维数和所述第三矩阵维数,以确定第二比较结果;
基于所述第二比较结果,确定所述第一维数外层分块参数和所述第三维数外层分块参数。
5.根据权利要求4所述的分块方法,其中,基于所述第二比较结果,确定所述第一维数外层分块参数和所述第三维数外层分块参数包括:
响应于所述第二比较结果表示所述第一矩阵维数小于所述第三矩阵维数:
确定所述第一维数外层分块参数为所述第一矩阵维数;
基于所述数据尺寸、所述第二矩阵的维度参数和所述第二输入缓存器的尺寸,确定所述第三维数外层分块参数;
响应于所述第二比较结果表示所述第一矩阵维数大于等于所述第三矩阵维数:
确定所述第三维数外层分块参数为所述第三矩阵维数;
基于所述数据尺寸、所述第一矩阵的维度参数和所述第一输入缓存器的尺寸,确定所述第一维数外层分块参数。
6.根据权利要求5所述的分块方法,其中,基于所述数据尺寸、所述第一矩阵的维度参数和所述第一输入缓存器的尺寸,确定所述第一维数外层分块参数,包括:
基于所述数据尺寸、所述第二矩阵维度和所述第一输入缓存器的尺寸,确定第一中间分块参数;
响应于所述第一中间分块参数小于所述第一矩阵维数,确定所述第一维数外层分块参数为所述第一中间分块参数,
响应于所述第一中间分块参数大于等于所述第一矩阵维数,确定所述第一维数外层分块参数为所述第一矩阵维数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海壁仞智能科技有限公司,未经上海壁仞智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210440010.1/1.html,转载请声明来源钻瓜专利网。