[发明专利]一种图形处理器及其资源调度方法、装置有效
申请号: | 201711191566.7 | 申请日: | 2017-11-24 |
公开(公告)号: | CN109840877B | 公开(公告)日: | 2023-08-22 |
发明(设计)人: | 展旭升;王聪;李宇鹏;包云岗;姚伟 | 申请(专利权)人: | 华为技术有限公司;中国科学院计算技术研究所 |
主分类号: | G06T1/20 | 分类号: | G06T1/20 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 图形 处理器 及其 资源 调度 方法 装置 | ||
1.一种资源调度方法,其特征在于,应用于图形处理器中,所述图形处理器包括全局调度器和至少两个流式多处理器SM,所述方法包括:
全局调度器接收核程序,将所述核程序中的第一线程块发送给第一SM;
所述第一SM接收所述第一线程块;
所述第一SM检测到所述第一SM的剩余资源量不满足所述第一线程块所需的运行条件,将所述第一线程块记录为横跨线程块;
将所述横跨线程块的至少一个线程束发送给第二SM;
所述第一SM为所述横跨线程块中的至少一个线程束分配资源;
所述第二SM接收到所述横跨线程块的至少一个线程束后,为接收到的横跨线程块的至少一个线程束分配资源。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
第二SM在执行完横跨线程块中的线程束后,生成对应的第二SM完成信息,并将所述第二SM完成信息发送给所述第一SM;
所述第一SM在执行完横跨线程块中的线程束后,依据所述第二SM发送的第二SM完成信息,对所述横跨线程块对应记录的线程块信息进行更新,以及将更新后的线程块信息发送给全局调度器。
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
第一SM在执行完横跨线程块中的线程束后,生成对应的第一SM完成信息,并将所述第一SM完成信息发送给所述第二SM;
所述第二SM在执行完横跨线程块中的线程束后,依据所述第一SM发送的第一SM完成信息,对所述横跨线程块对应记录的线程块信息进行更新,以及将更新后的线程块信息发送给全局调度器。
4.根据权利要求1所述的方法,其特征在于,所述将所述核程序中的第一线程块发送给第一SM之后,所述方法还包括:
当所述核程序中有剩余待分发的线程块时,所述全局调度器检测所述图形处理器中的第三SM的剩余共享内存容量是否满足单个线程块所需要的共享内存容量;
所述全局调度器检测到所述第三SM的剩余共享内存容量满足单个线程块所需要的共享内存容量后,向所述第三SM发送所述核程序中的一个待分发的线程块。
5.根据权利要求1所述的方法,其特征在于,所述将所述核程序中的第一线程块发送给第一SM之前,还包括:
确定第一线程块所需要的第一资源数量;
依据第一SM对应的SM信息以及所述第一资源数量进行分配,确定向第一SM分配的线程块数量。
6.根据权利要求5所述的方法,其特征在于,所述SM信息为所述全局调度器依据SM中记录的线程块信息确定的,所述方法还包括:
SM针对接收到的线程块记录对应的线程块信息,并将记录的线程块信息发送给所述全局调度器;
所述全局调度器依据每一个SM所发送的线程块信息,确定每一个SM对应的 SM信息。
7.一种图形处理器,其特征在于,包括全局调度器和至少两个流式多处理器SM;
其中,所述全局调度器接收核程序,将所述核程序中的第一线程块发送给第一SM;
所述第一SM接收所述第一线程块,在检测到所述第一SM的剩余资源量不满足所述第一线程块所需的运行条件后,将所述第一线程块记录为横跨线程块,将所述横跨线程块的至少一个线程束发送给第二SM;
所述第二SM接收到所述横跨线程块的至少一个线程束后,为接收到的横跨线程块的至少一个线程束分配资源。
8.根据权利要求7所述的图形处理器,其特征在于,所述SM包括仲裁器、块调度器和从调度器;
在同一SM中,所述块调度器的一端连接所述仲裁器,另一端连接所述从调度器;
所述第一SM中的从调度器与所述第二SM中的仲裁器相连接。
9.根据权利要求8所述的图形处理器,其特征在于,
所述第一SM中的从调度器将所述第一SM中记录的横跨线程块的至少一个线程束发送给所述第二SM的仲裁器;
所述第二SM中的仲裁器接收所述横跨线程块的至少一个线程束。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司;中国科学院计算技术研究所,未经华为技术有限公司;中国科学院计算技术研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711191566.7/1.html,转载请声明来源钻瓜专利网。