[发明专利]学习网络在等价类空间中的优化在审
申请号: | 201810012490.5 | 申请日: | 2018-01-05 |
公开(公告)号: | CN110009091A | 公开(公告)日: | 2019-07-12 |
发明(设计)人: | 陈薇;叶启威;刘铁岩;孟琪 | 申请(专利权)人: | 微软技术许可有限责任公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 北京市金杜律师事务所 11256 | 代理人: | 王茂华;罗利娜 |
地址: | 美国华*** | 国省代码: | 美国;US |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 根据本公开的实现,提出了一种学习网络在等价类空间中的优化方案。在该方案中,确定贯穿学习网络的多个层的多个基础路径。多个层上的每个节点利用具有缩放不变属性的激活函数对来自前一层的节点的输入进行处理,每个基础路径包括多个层中的每一层上的单个节点,并且多个基础路径中的处理彼此线性无关。对于多个基础路径中的每一个基础路径,更新与该基础路径中的节点相关联的参数的组合值,在每个基础路径中,与一个节点相关联的参数被用以调节该节点从前一层的节点获得的输入。基于更新后的参数的组合值,更新在多个基础路径中与多个层上的节点相关联的参数的值。通过该方案,提高了优化效率,实现更准确地获得参数的优化值。 | ||
搜索关键词: | 等价类 关联 优化 更新 单个节点 激活函数 线性无关 网络 缩放 学习 贯穿 | ||
【主权项】:
1.一种由计算机实现的方法,包括:确定贯穿学习网络的多个层的多个基础路径,所述多个层上的每个节点利用具有缩放不变属性的激活函数对来自前一层的节点的输入进行处理,每个基础路径包括所述多个层中的每一层上的单个节点,并且所述多个基础路径中的处理彼此线性无关;对于所述多个基础路径中的每一个基础路径,更新与该基础路径中的节点相关联的参数的组合值,在每个基础路径中,与一个节点相关联的参数被用以调节该节点从前一层的节点获得的所述输入;以及基于更新后的所述参数的组合值,更新在所述多个基础路径中与所述多个层上的节点相关联的所述参数的值。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于微软技术许可有限责任公司,未经微软技术许可有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810012490.5/,转载请声明来源钻瓜专利网。
- 上一篇:神经网络训练与图像处理方法及装置
- 下一篇:用于深度神经网络的激活函数