[发明专利]计算方法以及相关产品在审
| 申请号: | 201810479540.0 | 申请日: | 2018-05-18 |
| 公开(公告)号: | CN110503179A | 公开(公告)日: | 2019-11-26 |
| 发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 上海寒武纪信息科技有限公司 |
| 主分类号: | G06N3/02 | 分类号: | G06N3/02 |
| 代理公司: | 44202 广州三环专利商标代理有限公司 | 代理人: | 郝传鑫;熊永强<国际申请>=<国际公布> |
| 地址: | 200120 上海市浦*** | 国省代码: | 上海;31 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 机器学习 计算量 功耗 融合 | ||
1.一种计算方法,其特征在于,所述计算方法应用于计算系统,所述计算系统包括:控制单元、计算群和总存储单元,所述控制单元包括:第一存储单元、译码逻辑和控制器,所述计算群包括:群控制器和多个计算单元;所述总存储单元,用于存储数据;所述计算方法包括如下步骤:
控制器接收第一级指令序列,所述译码逻辑将该第一级指令序列拆分成多个第二级指令序列,
控制器为所述多个第二级指令序列开辟M个线程,控制器为所述M个线程中每个线程分配独立的寄存器以及配置独立寻址功能;所述M取值范围为大于等于1的整数;
群控制器获取所述多个第二级指令序列的多个计算类型,依据所述多个计算类型获取计算类型对应的融合计算方式,多个计算单元采用该融合计算方式调用所述M个线程对所述多个第二指令序列执行计算得到最终结果。
2.根据权利要求1所述的方法,其特征在于,所述群控制器获取所述多个第二级指令序列的多个计算类型,依据所述多个计算类型获取计算类型对应的融合计算方式,多个计算单元采用该融合计算方式调用所述M个线程对所述多个第二指令序列执行计算得到最终结果:
如所述计算类型为相同类型的计算操作,群控制器调用相同类型的单指令多数据流SIMD结合单指令多线程SIMT的组合计算方式调用所述M个线程执行计算得到最终结果,具体包括:
译码逻辑将M个线程拆分成N个线程组分配给多个计算单元,群控制器将所述多个第二指令序列转换成多个第二控制信号并发送给多个计算单元,,多个计算单元调用分配的线程组以及第二控制信号依据所述独立寻址功能提取对应的数据,多个计算单元将该数据执行运算得到多个中间结果,将多个中间结果拼接起来得到最终结果。
3.根据权利要求1所述的方法,其特征在于,所述群控制器获取所述多个第二级指令序列的多个计算类型,依据所述多个计算类型获取计算类型对应的融合计算方式,多个计算单元采用该融合计算方式调用所述M个线程对所述多个第二指令序列执行计算得到最终结果:
如所述计算类型为不同类型的计算操作,调用同步多线程SMT调用所述M个线程执行计算得到最终结果,具体包括:
译码逻辑将M个线程拆分成N个线程组,将所述多个第二指令序列转换成多个第二控制信号,群控制器获取多个计算单元支持的计算类型,控制器将N个线程组以及多个第二控制信号分配给支持该线程组以及第二控制信号的计算类型对应的计算单元,多个计算单元调用分配的线程组以及第二控制信号提取对应的数据,多个计算单元将该数据执行运算得到多个中间结果,将所有中间结果拼接起来得到最终结果。
4.根据权利要求2或3所述的方法,其特征在于,所述方法还包括:
如多个线程组中的线程组A阻塞,将线程组A加入等待队列,如线程组A的数据已提取,将线程组A加入到准备队列,所述准备队列为计算资源空闲时被调度执行的线程组所在的队列。
5.根据权利要求1所述的方法,其特征在于,
所述第一级指令序列包括:超长指令,所述第二级指令序列包括:指令序列。
6.根据权利要求1所述的方法,其特征在于,所述计算系统包括:树型模块,所述树型模块包括:一个根端口和多个支端口,所述树型模块的根端口连接所述群控制器,所述树型模块的多个支端口分别连接多个计算单元中的一个计算单元;
所述树型模块转发所述群控制器与所述多个计算单元之间的数据块、线程组或指令序列。
7.根据权利要求6所述的方法,其特征在于,所述数型模块为n叉树,所述n为大于等于2的整数。
8.根据权利要求1所述的方法,其特征在于,所述计算系统包括:分支处理电路,
所述分支处理电路连接在所述群控制器与所述多个计算单元之间;
所述分支处理电路转发所述群控制器与所述多个计算单元之间的数据、线程组或指令序列。
9.根据权利要求1所述的方法,其特征在于,所述计算单元包括:乘法处理电路;
所述乘法处理电路对接收到的数据执行乘积运算得到乘积结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海寒武纪信息科技有限公司,未经上海寒武纪信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810479540.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种触摸感应计数电子设备
- 下一篇:模型处理方法、装置以及电子设备





