[发明专利]利用黑盒模拟器进行神经网络处理器设计的方法有效
申请号: | 201711034124.1 | 申请日: | 2017-10-30 |
公开(公告)号: | CN109726805B | 公开(公告)日: | 2021-02-09 |
发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 上海寒武纪信息科技有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063 |
代理公司: | 中科专利商标代理有限责任公司 11021 | 代理人: | 任岩 |
地址: | 201203 上海浦东*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 利用 黑盒 模拟器 进行 神经网络 处理器 设计 方法 | ||
1.一种利用黑盒模拟器进行神经网络处理器设计的方法,包括:
选取至少一组合作为神经网络模型的输入,设定至少一处理器设计目标作为神经网络模型的输出;
根据所述输入及输出训练神经网络模型;以及
利用训练后的神经网络模型对不同的处理器进行预测,确定满足所述处理器设计目标的处理器;
其中,所述组合包括参数组合和/或运算器组合;
所述参数组合为处理器的设计参数组合。
2.根据权利要求1所述的利用黑盒模拟器进行神经网络处理器设计的方法,其中,所述处理器设计目标包括以下至少其中之一:精度目标、功耗目标、速度目标及面积目标。
3.根据权利要求1所述的利用黑盒模拟器进行神经网络处理器设计的方法,其中,所述处理器的设计参数组合包括以下至少其中之一:用于片上存储的规模及位宽、数据传输的带宽及主频。
4.根据权利要求1所述的利用黑盒模拟器进行神经网络处理器设计的方法,其中,所述运算器组合包括乘法器和/或加法器的组合。
5.根据权利要求1所述的利用黑盒模拟器进行神经网络处理器设计的方法,其中,在所述选取至少一组合作为神经网络模型的输入的步骤之前,还包括:选定一算法及其配置,并进行初始化。
6.根据权利要求5所述的利用黑盒模拟器进行神经网络处理器设计的方法,其中,所述配置包括预定误差阈值、预定迭代次数阈值;所述初始化包括权值、偏移量参数初始化。
7.根据权利要求5所述的利用黑盒模拟器进行神经网络处理器设计的方法,其中,所述算法包括卷积神经网络、支持向量机、决策树。
8.根据权利要求1所述的利用黑盒模拟器进行神经网络处理器设计的方法,其中,所述根据所述输入及输出训练神经网络模型的步骤,包括:
训练神经网络模型,得到预测输出;
计算预测输出和真实输出之间的误差,并与一预定误差阈值进行比较;
若预测输出和真实输出之间的误差小于或等于预定误差阈值,则结束对神经网络模型的训练;否则重复训练神经网络模型,直至迭代次数达到一预定迭代次数阈值。
9.根据权利要求4所述的利用黑盒模拟器进行神经网络处理器设计的方法,其中,所述选取至少一组合作为神经网络模型的输入的步骤,包括:
从所述运算器组合中选取M种不同精度或相同的乘法器、N种不同或相同精度的加法器,M, N为正整数,分别对应所述处理器中运算部分的各个运算器m1,m2,m3,m4至mM,a1,a2,a3至aN;
对这些运算器进行编码并归一化,分别表示为Vm1,Vm2,Vm3,Vm4至VmM,Va1,Va2,Va3至VaN,作为模拟器的输入数据。
10.根据权利要求1所述的利用黑盒模拟器进行神经网络处理器设计的方法,其中,所述处理器设计目标为分离的输出或以通过加权方式进行组合。
11.根据权利要求1所述的利用黑盒模拟器进行神经网络处理器设计的方法,其中,利用训练后的神经网络模型对不同的处理器进行预测,确定满足所述处理器设计目标的处理器的步骤为利用训练后的神经网络模型对不同的参数组合和运算器组合的处理器进行预测,确定满足所述处理器设计目标的参数组合和运算器的处理器。
12.一种神经网络处理器,包括存储单元和处理单元,其中,所述存储单元存储如权利要求1至11中任一项所述的方法,所述处理单元执行如权利要求1至11中任一项所述的方法。
13.一种芯片,其包括了如权利要求12所述的神经网络处理器。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海寒武纪信息科技有限公司,未经上海寒武纪信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711034124.1/1.html,转载请声明来源钻瓜专利网。