[发明专利]神经网络任务处理系统有效
申请号: | 201911058837.0 | 申请日: | 2018-07-13 |
公开(公告)号: | CN110688159B | 公开(公告)日: | 2021-12-14 |
发明(设计)人: | 陈天石;刘少礼;王在;胡帅 | 申请(专利权)人: | 上海寒武纪信息科技有限公司 |
主分类号: | G06F9/30 | 分类号: | G06F9/30;G06N3/063;G06F7/50;G06F7/523 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郝传鑫;熊永强 |
地址: | 201306 上海*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 任务 处理 系统 | ||
1.一种神经网络任务处理系统,其特征在于,所述系统包括:n个计算装置,m个反向计算模块、控制模块和互联装置;
所述控制模块通过所述互联装置与所述n个计算装置和m个反向计算模块连接和通信;
所述计算装置,用于执行神经网络正向计算;
所述反向计算模块,用于执行神经网络反向计算;
所述计算装置包括:寄存器单元、互联模块、运算单元、控制单元和数据访问单元;其中,
寄存器单元,用于存储运算指令、数据块在存储介质的地址和运算指令对应的计算拓扑结构;
控制单元,用于从寄存器单元内提取运算指令,该运算指令对应的操作域以及该运算指令对应的第一计算拓扑结构,将该运算指令译码成执行指令,该执行指令用于控制运算单元执行运算操作,将该操作域传输至数据访问单元;
数据访问单元,用于提取该操作域对应的数据块,并将该数据块传输至互联模块;
互联模块,用于接收数据块,将该数据块发送至运算单元;
运算单元,用于该执行指令调用运算单元的计算器对该数据块执行运算操作得到运算结果;
所述运算单元包括:一个主运算单元和多个从运算单元,所述互联模块连接所述主运算单元和多个从运算单元,所述互联模块为:树状结构、环状结构、网格状结构、分级互连或总线结构;
所述计算装置还包括:连续离散转换模块,用于将连续数据与离散数据的互换
所述主运算单元包括:运算模块、数据依赖关系判断单元和支持离散数据表示的神经元缓存单元;
所述运算模块,用于完成所述主运算单元的各种运算功能;具体包括:对于运算因子全是离散数据的情况,通过查表实现离散数据与离散数据的加减乘除运算;对于运算因子包含离散数据和连续数据的情况,针对不同离散数据,为加、减、乘、除运算预先设定相应的位操作;
所述数据依赖关系判断单元,用于将接收的微指令存入所述数据依赖关系判断单元内部的指令队列里,在该队列中,读指令的读取数据的范围如果与队列位置靠前的写指令写数据的范围发生冲突,则该指令必须等到所依赖的写指令被执行后才能够执行;
支持离散数据表示的神经元缓存单元,用于缓存从运算模块的输入神经元向量数据和输出神经元值数据。
2.根据权利要求1所述的神经网络任务处理系统,其特征在于,
所述反向计算模块为通用处理器,所述通用处理器为:GPU、DSP或FPGA;
所述反向计算模块与存储器连接,所述反向计算模块与所述计算装置共享所述存储器。
3.根据权利要求1所述的神经网络任务处理系统,其特征在于,
所述运算单元包括:加法计算器、乘法计算器、比较器、激活运算器中的至少二种。
4.根据权利要求3所述的神经网络任务处理系统,其特征在于,
所述运算指令为卷积计算指令,所述计算指令包括:操作域和操作码;
所述卷积计算指令包括:卷积神经网络COMPUTE指令以及CONFIG指令;所述卷积神经网络COMPUTE指令包括:
卷积神经网络sigmoid指令,根据该指令,装置分别从存储器的指定地址取出指定大小的输入数据和卷积核,在卷积运算部件中做卷积操作,然后将输出结果做sigmoid激活;
卷积神经网络TanH指令,根据该指令,装置分别从存储器的指定地址取出指定大小的输入数据和卷积核,在卷积运算部件中做卷积操作,然后将输出结果做TanH激活;
卷积神经网络ReLU指令,根据该指令,装置分别从存储器的指定地址取出指定大小的输入数据和卷积核,在卷积运算部件中做卷积操作,然后将输出结果做ReLU激活;以及
卷积神经网络group指令,根据该指令,装置分别从存储器的指定地址取出指定大小的输入数据和卷积核,划分group之后,在卷积运算部件中做卷积操作,然后将输出结果做激活。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海寒武纪信息科技有限公司,未经上海寒武纪信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911058837.0/1.html,转载请声明来源钻瓜专利网。