[发明专利]一种神经网络模型激活函数的优化方法在审
| 申请号： | 202110325856.6 | 申请日： | 2021-03-26 |
| 公开（公告）号： | CN113011565A | 公开（公告）日： | 2021-06-22 |
| 发明（设计）人： | 邢园园;肖偌舟 | 申请（专利权）人： | 青岛本原微电子有限公司 |
| 主分类号： | G06N3/04 | 分类号： | G06N3/04;G06N3/08 |
| 代理公司： | 青岛联智专利商标事务所有限公司 37101 | 代理人： | 王笑 |
| 地址： | 266200 山*** | 国省代码： | 山东;37 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | |||
| 搜索关键词： | 一种 神经网络 模型 激活 函数 优化 方法 | ||
【权利要求书】：
1.一种神经网络模型激活函数的优化方法，其特征在于，包括如下步骤：
解析神经网络模型的网络结构，得到各节点的类型及参数；
遍历神经网络模型的每个节点，确定节点的连接关系；
根据各节点的类型确定类型是激活函数的节点；
将类型是激活函数且相连的节点划分为待优化节点；
基于节点的参数，将待优化节点优化为一个激活函数节点。
2.根据权利要求1所述的神经网络模型激活函数的优化方法，其特征在于，基于节点的参数，将待优化节点优化为一个激活函数节点，具体包括：
1)按序将相邻的两个待优化节点按照以下方式优化为一个新的激活函数节点：
其中，k1为排序在前的节点参数，k2为排序在后的节点参数；
2)若待优化节点数大于2，则转入步骤3)，否则转入步骤4)；
3)将优化得到的激活函数节点再与下一个相连的待优化节点按照1)的方式优化，直至最后一个待优化节点被优化；
4)优化结束。
3.根据权利要求2所述的神经网络模型激活函数的优化方法，其特征在于，所述方法还包括：
当待优化的两个节点的的激活函数类型相同时，优化之后的激活函数保持原有类型；当待优化的两个节点的激活函数类型不相同时，优化之后的激活函数类型为PReLU。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于青岛本原微电子有限公司，未经青岛本原微电子有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/pat/books/202110325856.6/1.html，转载请声明来源钻瓜专利网。
