[发明专利]数据处理装置、卷积处理器、芯片、以及计算机设备在审
申请号: | 202210112264.0 | 申请日: | 2022-01-29 |
公开(公告)号: | CN114462586A | 公开(公告)日: | 2022-05-10 |
发明(设计)人: | 曹雨;王文强;胡英俊;徐宁仪 | 申请(专利权)人: | 上海阵量智能科技有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06F17/15 |
代理公司: | 北京中知恒瑞知识产权代理事务所(普通合伙) 11889 | 代理人: | 吴迪 |
地址: | 200235 上海*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 装置 卷积 处理器 芯片 以及 计算机 设备 | ||
本公开提供了一种数据处理装置、卷积处理器、芯片、以及计算机设备,其中,数据处理装置包括:主机、以及卷积处理器;所述主机,用于生成与目标卷积算子对应的卷积操作指令,并向所述卷积处理器发送所述卷积操作指令;所述卷积处理器,用于响应于接收到所述卷积操作指令,获取与所述卷积操作指令对应的目标待处理数据,并利用与所述目标待处理数据中的多个目标子数据分别对应的卷积操作数,对多个所述目标子数据分别进行卷积处理,得到与多个目标子数据分别对应的卷积处理结果;基于多个目标子数据分别对应的卷积处理结果,得到所述目标卷积算子对应的目标卷积结果。
技术领域
本公开涉及深度学习技术领域,具体而言,涉及一种数据处理装置、卷积处理器、芯片、以及计算机设备。
背景技术
随着神经网络的技术发展,神经网络的规模越来越大,应用于神经网络的算子也越来越多;为了提升神经网络的推理效率,提出了多种适用于神经网络的人工智能(Artificial Intelligence,AI)芯片,在这些AI芯片中,通过硬件结构的特殊设计,使得AI芯片能够直接实现与某些算子对应的处理,如卷积处理、全连接处理、池化处理等,而不需要将这些算子拆解为基础运算(如加、减、乘、除、移位等)后进行处理。其中,当前的AI芯片仅能够实现普通卷积处理;在处理深度卷积时,需要将深度卷积转换为普通卷积后进行处理,造成AI芯片需要进行大量的无效计算,浪费计算资源,降低了系统性能。
发明内容
本公开实施例至少提供一种数据处理装置、卷积处理器、芯片、以及计算机设备。
第一方面,本公开实施例提供了一种数据处理装置,包括:主机、以及卷积处理器;
所述主机,用于生成与目标卷积算子对应的卷积操作指令,并向所述卷积处理器发送所述卷积操作指令;
所述卷积处理器,用于响应于接收到所述卷积操作指令,获取与所述卷积操作指令对应的目标待处理数据,并利用与所述目标待处理数据中的多个目标子数据分别对应的卷积操作数,对多个所述目标子数据分别进行卷积处理,得到与多个目标子数据分别对应的卷积处理结果;基于多个目标子数据分别对应的卷积处理结果,得到所述目标卷积算子对应的目标卷积结果。
一种可能的实施方式中,所述卷积处理器包括:调度器、多个计算单元、以及数据融合电路;
其中,所述调度器,用于响应于接收到所述卷积操作指令,基于所述卷积操作指令生成与多个所述目标子数据分别对应的子操作指令,将多个目标子数据分别对应的子操作指令向不同计算单元发送;
所述计算单元,用于响应于接收到所述调度器发送的子操作指令,利用接收到的子操作指令指示的卷积操作数,对所述子操作指令对应的目标子数据进行卷积处理,得到与该目标子数据对应的卷积处理结果;向所述数据融合电路发送所述卷积处理结果;
所述数据融合电路,用于响应于接收到多个所述计算单元分别发送的卷积处理结果,对接收到的所述卷积处理结果进行叠加处理,得到所述目标卷积结果。
一种可能的实施方式中,所述数据调度器,在基于所述卷积操作指令生成与多个所述目标子数据分别对应的子操作指令时,用于:
对所述卷积操作指令进行解析,得到所述卷积操作指令中携带的目标待处理数据的数据参数、以及对所述目标待处理数据进行卷积处理时的卷积参数;
基于所述数据参数、以及所述卷积参数,生成与多个所述目标子数据分别对应的子操作指令。
一种可能的实施方式中,所述调度器,在基于所述数据参数、以及所述卷积参数,生成与多个所述目标子数据分别对应的子操作指令时,用于:
基于所述数据参数,确定多个所述目标子数据分别对应的第一目标地址信息;以及
基于所述卷积参数,确定多个所述目标子数据分别对应的卷积操作数对应的第二目标地址信息;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海阵量智能科技有限公司,未经上海阵量智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210112264.0/2.html,转载请声明来源钻瓜专利网。