[发明专利]神经网络系统、加速器、建模方法及装置、介质及系统有效
申请号: | 201710611292.6 | 申请日: | 2017-07-25 |
公开(公告)号: | CN109299487B | 公开(公告)日: | 2023-01-06 |
发明(设计)人: | 林福辉;赵晓辉 | 申请(专利权)人: | 展讯通信(上海)有限公司 |
主分类号: | G06F30/27 | 分类号: | G06F30/27;G06N3/04 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 潘彦君;吴敏 |
地址: | 201203 上海市浦东新区浦东*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 系统 加速器 建模 方法 装置 介质 | ||
1.一种深度神经网络系统,其特征在于,包括:
多个共享模块和与之耦接的多个独享模块,所述共享模块适于处理多个任务,所述多个独享模块适于各自独立处理对应的单个任务;所述多个共享模块包括第一共享模块以及第二共享模块;
与所述第一共享模块耦接的N个输入接口,所述N个输入接口适于各自独立接收对应的单个任务;任务1~任务N-1对应的输入接口1~N-1与所述第一共享模块的第一端口耦接;任务N对应的输入接口N通过一独享模块与所述第一共享模块的第一端口耦接;所述第一共享模块的第二端口与所述第二共享模块的第一端口、任务N-1对应的独享模块的第一端口耦接;
与所述第二共享模块耦接的N个输出接口,所述N个输出接口适于各自独立输出对应的单个任务;所述任务N-1对应的独享模块的第二端口与任务N-1对应的输出接口N-1耦接;所述第二共享模块的第二端口依次与任务1~任务N-2以及任务N对应的独享模块的第一端口耦接,任务1~任务N-2以及任务N对应的独享模块的第二端口依次与其对应的输出接口耦接。
2.根据权利要求1所述的深度神经网络系统,其特征在于,包括多个共享模块,且多个共享模块之间通过并联方式、串联方式或者串联并联的组合方式耦接。
3.根据权利要求1所述的深度神经网络系统,其特征在于,所述共享模块位于所述深度神经网络系统的输入部分、中间部分或者输出部分。
4.一种深度神经网络加速器,包括缓存和与所述缓存耦接的计算单元阵列,其特征在于,所述缓存适于存储权利要求1至3任一项所述的深度神经网络系统中的共享模块。
5.一种深度神经网络加速器系统,包括片外存储器和权利要求4所述的深度神经网络加速器,其特征在于,所述片外存储器适于存储权利要求1至3任一项所述的深度神经网络系统中的共享模块。
6.一种深度神经网络系统的建模方法,其特征在于,包括:
构建多任务深度神经网络系统,所述多任务深度神经网络系统为权利要求1至3任一项所述的深度神经网络系统;
基于训练算法对所述多任务深度神经网络系统进行迭代训练。
7.根据权利要求6所述的深度神经网络系统的建模方法,其特征在于,所述训练算法为以下至少一个:迁移学习方法、蒸馏方法、词嵌入方法、端到端的单输入多输出方法、多任务学习方法。
8.一种建模装置,其特征在于,包括:
构建单元,适于构建多任务深度神经网络系统,所述多任务深度神经网络系统为权利要求1至3任一项所述的深度神经网络系统;
训练单元,适于基于训练算法对所述多任务深度神经网络系统进行迭代训练。
9.一种计算机可读介质,其上存储有计算机指令,其特征在于,所述计算机指令运行时执行权利要求6或7所述方法对应的步骤。
10.一种深度神经网络系统,其特征在于,包括存储器和处理器,所述存储器上存储有能够在所述处理器上运行的计算机指令,所述处理器运行所述计算机指令时执行权利要求6或7所述方法对应的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于展讯通信(上海)有限公司,未经展讯通信(上海)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710611292.6/1.html,转载请声明来源钻瓜专利网。