[发明专利]用于正则化神经网络的系统和方法在审
| 申请号： | 201910324199.6 | 申请日： | 2019-04-22 |
| 公开（公告）号： | CN110084368A | 公开（公告）日： | 2019-08-02 |
| 发明（设计）人： | G.I.沙米尔 | 申请（专利权）人： | 谷歌有限责任公司 |
| 主分类号： | G06N3/08 | 分类号： | G06N3/08 |
| 代理公司： | 北京市柳沈律师事务所 11105 | 代理人： | 金玉洁 |
| 地址： | 美国加利*** | 国省代码： | 美国;US |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本公开通常涉及机器学习。更具体地，本公开涉及通过在神经网络的训练期间解相关神经网络的神经元或其他参数来正则化神经网络的系统和方法，从而促进这些参数相互创新。 | ||
| 搜索关键词： | 神经网络 正则化 神经元 机器学习 解相关 | ||
【主权项】：
1.一种用于训练神经网络的计算机实施的方法，所述方法包括：由一个或多个计算设备获得描述神经网络的数据，所述神经网络包括多层神经元；以及由一个或多个计算设备通过神经网络反向传播损失函数以训练神经网络，其中所述损失函数描述所述神经网络相对于一组训练示例的性能，并且其中由一个或多个计算设备通过神经网络反向传播损失函数包括，对于所述神经网络的多个层中的一个或多个层中的每个层：由所述一个或多个计算设备确定所述损失函数相对于层中包括的神经元的梯度，其中，至少对于所述层，所述损失函数包括创新损失项，所述创新损失项为所述层中包括的一个或多个神经元中的每一个神经元提供基于所述层中的一个或多个其他神经元的能力的损失值，以预测这样的神经元的值；以及由所述一个或多个计算设备至少部分地基于包括所述创新损失项的损失函数的梯度来修改所述层中包括的神经元以解相关所述层中包括的神经元。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于谷歌有限责任公司，未经谷歌有限责任公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910324199.6/，转载请声明来源钻瓜专利网。
