[发明专利]一种应用于图形处理器的数据处理方法、装置及电子设备在审

专利信息
申请号: 202011465448.2 申请日: 2020-12-14
公开(公告)号: CN114626969A 公开(公告)日: 2022-06-14
发明(设计)人: 李英晗;顾震宇;王绍翾 申请(专利权)人: 阿里巴巴集团控股有限公司
主分类号: G06T1/20 分类号: G06T1/20;G06F17/16
代理公司: 北京清源汇知识产权代理事务所(特殊普通合伙) 11644 代理人: 冯德魁;张艳梅
地址: 英属开曼群岛大开*** 国省代码: 暂无信息
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 应用于 图形 处理器 数据处理 方法 装置 电子设备
【说明书】:

本申请提供一种应用于GPU的数据处理方法,包括:将待处理矩阵从目标GPU对应的内存中读入到目标流式多处理器中的寄存器,所述目标流式多处理器为用于对所述待处理矩阵进行矩阵计算的流式多处理器;在将所述待处理矩阵从所述寄存器读入到所述寄存器对应的共享内存的过程中,对所述待处理矩阵执行第一预设操作,获得所述待处理矩阵对应的初始矩阵;在将所述初始矩阵从所述共享内存读入到所述寄存器的过程中,对所述初始矩阵执行第二预设操作,获得符合矩阵专用计算单元的矩阵乘法运算需求的目标矩阵。该应用于图形处理器(GPU)的数据处理方法,能够将待处理矩阵变换成符合GPU矩阵乘法运算需求的目标矩阵,从而提高了GPU进行矩阵乘法运算的适用性。

技术领域

本申请涉及计算机技术领域,具体涉及一种应用于图形处理器的数据处理方法。本申请同时涉及一种应用于图形处理器装置、电子设备以及存储介质。本申请还涉及另一种应用于GPU的数据处理方法

背景技术

GPU(Graphics Processing Unit,图形处理器)又称显示核心、视觉处理器、显示芯片,是一种用于在个人电脑、平板电脑、智能手机等计算设备上进行图像处理以及与图像相关的计算工作的微处理器,如:进行矩阵乘法等通用计算等。在使用GPU进行矩阵乘法计算时,GPU中用于进行矩阵运算的矩阵乘法专用计算单元对输入的矩阵排列方式有一定限制,矩阵乘法专用计算单元为流式多处理器中专用于矩阵运算的计算单元,如:当元素的整数类型为INT8(integer,整数)的输入矩阵时,需要要求两相乘矩阵中的在先矩阵的排列形式为行主序矩阵,在后矩阵的排列形式为列主序矩阵。

在实际应用中,输入矩阵的排列形式是多种多样的,此时,只有将输入矩阵变换成预先设定的排列方式,才能通过GPU对输入矩阵进行进一步的矩阵乘法运算。现有技术中,在使用GPU进行矩阵乘法运算时,仅能针对元素的整数类型为特定位数大小的的矩阵进行矩阵的变换处理,从而导致现有技术中GPU进行矩阵乘法运算的适用性较低。

发明内容

本申请提供一种应用于应用于图形处理器的数据处理方法、装置、电子设备以及存储介质,以提高GPU进行矩阵乘法运算的适用性。

本申请提供一种应用于图形处理器(GPU)的数据处理方法,包括:

将待处理矩阵从目标GPU对应的内存中读入到目标流式多处理器中的寄存器,所述目标流式多处理器为用于对所述待处理矩阵进行矩阵计算的流式多处理器;

在将所述待处理矩阵从所述寄存器读入到所述寄存器对应的共享内存的过程中,对所述待处理矩阵执行第一预设操作,获得所述待处理矩阵对应的初始矩阵;

在将所述初始矩阵从所述共享内存读入到所述寄存器的过程中,对所述初始矩阵执行第二预设操作,获得符合矩阵乘法专用计算单元的矩阵乘法运算需求的目标矩阵,所述矩阵乘法专用计算单元为所述目标流式多处理器中专用于矩阵运算的计算单元。

可选的,所述将待处理矩阵从目标GPU对应的内存中读入到目标流式多处理器中的寄存器,包括:

获得所述寄存器的位数相对于所述待处理矩阵中元素对应的整数类型的位数的第一倍数;

根据所述第一倍数,从第一列开始依次将所述待处理矩阵中相同行的每所述第一倍数个的元素读入到所述寄存器。

可选的,所述获得所述寄存器的位数相对于所述待处理矩阵中元素对应的整数类型的位数的第一倍数,包括:

获得所述寄存器的位数;

获得所述待处理矩阵中元素对应的整数类型的位数;

根据所述寄存器的位数和所述待处理矩阵中元素对应的整数类型的位数,确定所述第一倍数。

可选的,所述对所述待处理矩阵执行第一预设操作,获得所述待处理矩阵对应的初始矩阵,包括:

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202011465448.2/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top