[发明专利]实现矩阵转置乘的方法、协处理器、服务器及存储介质有效
| 申请号: | 202211438748.0 | 申请日: | 2022-11-16 |
| 公开(公告)号: | CN115576606B | 公开(公告)日: | 2023-03-21 |
| 发明(设计)人: | 张贞雷;邹晓峰;李拓;满宏涛;刘刚;刘凯;魏红杨 | 申请(专利权)人: | 苏州浪潮智能科技有限公司 |
| 主分类号: | G06F9/30 | 分类号: | G06F9/30;G06F9/302;G06F9/38;G06F7/78;G06F15/78 |
| 代理公司: | 北京连和连知识产权代理有限公司 11278 | 代理人: | 黄艳南;陈黎明 |
| 地址: | 215000 江苏省苏州*** | 国省代码: | 江苏;32 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 实现 矩阵 转置乘 方法 处理器 服务器 存储 介质 | ||
1.一种实现矩阵转置乘的方法,其特征在于,所述方法包括:
由CPU向协处理器下发进行矩阵转置乘计算的RISC指令;
响应于所述协处理器获得所述RISC指令,从内存中分别提取第一矩阵和第二矩阵,并将所述第一矩阵的每一列数据和第二矩阵的每一行数据分别存放在不同的独立片上缓存中;
在一个时钟周期内同时读取多个所述独立片上缓存中的一行数据和对应的一列数据,送入多个乘法器中以并行的执行矩阵乘计算;
将获得的多个乘积结果存入片上存储,并写回所述内存;
其中,所述RISC指令包括:第一寄存器字段,用于控制修改第一寄存器的值,所述第一寄存器的值包括所述内存的结果存储地址、矩阵数据在所述内存中的存储地址或矩阵的尺寸;
第二寄存器字段,用于控制修改第二寄存器的值,所述第二寄存器的值包括所述内存的结果存储地址、矩阵数据在所述内存中的存储地址或矩阵的尺寸;
状态指示字段,用于控制修改第三寄存器的值以用于控制所述协处理器进入数据接收准备;
第一寄存器读操作字段,用于控制所述协处理器是否读取第一寄存器的值;
第二寄存器读操作字段,用于控制所述协处理器是否读取第二寄存器的值;
写回操作字段,用于控制对应的RISC指令是否执行对所述第三寄存器的状态写回;
指令操作码字段,用于指示当前RISC指令中各字段的值的含义。
2.根据权利要求1所述的一种实现矩阵转置乘的方法,其特征在于,所述方法还包括:
为所述协处理器配置2N个独立的片上缓存并均分为两组,每组独立的片上缓存用于存放第一矩阵或第二矩阵;其中,N为大于等于1的正整数。
3.根据权利要求1所述的一种实现矩阵转置乘的方法,其特征在于,所述方法还包括在由CPU向协处理器下发进行矩阵转置乘计算的RISC指令之前,为目标协处理器编译目标RISC指令。
4.根据权利要求1所述的一种实现矩阵转置乘的方法,其特征在于,根据指令操作码字段的值的不同,所述RISC指令包括准备指令,用于控制:
将内存的结果存储地址写入所述协处理器的第二寄存器;
控制协处理器读取所述第二寄存器的值;以及
执行对所述第三寄存器的状态写回以控制所述协处理器进入数据接收准备。
5.根据权利要求4所述的一种实现矩阵转置乘的方法,其特征在于,所述RISC指令还包括第一矩阵数据传递指令,用于控制:
将所述第一矩阵在所述内存中的存储地址写入第一寄存器;
将所述第一矩阵的尺寸写入第二寄存器;
读取第一寄存器的值以获得所述第一矩阵在所述内存中的存储地址;
读取第二寄存器的值以获得所述第一矩阵的尺寸;
根据所述存储地址依次获取所述第一矩阵的每一列数据,并分别存放在不同的独立片上缓存中;
根据所述第一矩阵的尺寸判断所述第一矩阵的数据是否传递完成,响应于未完成则重复上一步骤。
6.根据权利要求5所述的一种实现矩阵转置乘的方法,其特征在于,所述第一矩阵被按照每一列读取到不同的片上缓存后,作为乘数转置矩阵。
7.根据权利要求4所述的一种实现矩阵转置乘的方法,其特征在于,所述RISC指令还包括第二矩阵数据传递指令,用于控制:
将所述第二矩阵在所述内存中的存储地址写入第一寄存器;
将所述第二矩阵的尺寸写入第二寄存器;
读取第一寄存器的值以获得所述第二矩阵在所述内存中的存储地址;
读取第二寄存器的值以获得所述第二矩阵的尺寸;
根据所述存储地址依次获取所述第二矩阵的每一行数据,并分别存放在不同的独立片上缓存中;
根据所述第二矩阵的尺寸判断所述第二矩阵数据是否传递完成,响应于未完成则重复上一步骤。
8.根据权利要求7所述的一种实现矩阵转置乘的方法,其特征在于,所述第二矩阵被按照每一行读取到不同的片上缓存后,作为被乘数转置矩阵。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州浪潮智能科技有限公司,未经苏州浪潮智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211438748.0/1.html,转载请声明来源钻瓜专利网。





