[发明专利]一种优化用户信用模型建模过程的方法及装置在审
申请号: | 201610052278.2 | 申请日: | 2016-01-26 |
公开(公告)号: | CN106997484A | 公开(公告)日: | 2017-08-01 |
发明(设计)人: | 席炎;杨强鹏;余舟华;姜晓燕;王晓光;褚崴;曾海峰;俞吴杰;杨军 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06Q30/02;G06Q40/02 |
代理公司: | 北京国昊天诚知识产权代理有限公司11315 | 代理人: | 黄熊 |
地址: | 英属开曼群岛大开*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 优化 用户 信用 模型 建模 过程 方法 装置 | ||
技术领域
本申请涉及计算机技术领域,尤其涉及一种优化用户信用模型建模过程的方法及装置。
背景技术
目前,个人征信系统帮助消费贷款等机构对用户的个人信用进行分析,同时,用户也可以根据个人信用进行相关消费或贷款。通常个人的征信系统的建立需要用户不断的对用户信用模型进行训练,获得正确的个人征信系统模型,这里正确的模型是指:根据输入的用户的相关特征值,正确的输出该用户对应的信用度等。
训练用户信用模型通常会采用深度算法,该算法基于建立模拟人脑分析学习的神经网络(这里简称为深度网络),从而达到分析数据的目的,这里的数据可以是图片数据、声音数据或文本数据等。在训练该深度网络时,首先采用正向传播的方法在该深度网络的输入层中输入相应的值,然后通过随机的方式分配深度网络中各层之间的权值,从而获得最终的输出数据,这时获得的输出数据可能不是用户想要得到的期望输出数据,在这种情况下,需要对深度网络中各层之间的权值进行调整,使得最终获得的输出数据与期望输出数据之间的误差值小于预设的误差阈值。
通常现有技术在调整模型中各层之间权值的步骤是:首先算出深度网络中的实际输出数据与期望输出数据之间的误差值,然后将该误差值分摊给该深度网络中各层中各个单元,并根据梯度下降法对深度网络中各层之间的权值进行调整,当模型中实际输出数据与期望输出数据之间的误差值小于预设的误差阈值时,则完成了权值的调整过程,即完成了该深度网络的训练。
上述调整模型权值的方法是比较有效的方法,但是在建立征信系统模型时是采用随机的方法分配深度网络中的各层之间的权值,这样可能导致建立的模型与正确的模型之间的差距增大,具体是指建立的模型中各层之间的权值与正确模型中的权值差距较大;且随着征信系统模型中的数据逐渐增大以及神经网络的结构不断复杂化,采用上述调整权值的方法直接对整个网络进行训练时,由于网络中隐藏层可能有很多层,因此可能导致输出层的梯度传递到网络前层时会变得非常小,产生一种梯度弥散的现象,即使得网络前层的权值不再发生变化,造成在训练模型时过早的出现局部最优值。
发明内容
鉴于此问题,本申请实施例提供一种优化用户信用模型建模过程的方法,用于解决现有技术在调整用户信用模型中各层权值时使得模型过早陷于局部最优值的问题。
本申请实施例提供了一种优化用户信用模型建模过程的方法,所述方法应用于深度网络,所述深度网络包括N层,该方法包括:获取用于建立用户信用模型的样本数据;将所述样本数据作为输入数据输入到所述深度网络,对所述深度网络的第i-1层、第i层以及第i+1层进行如下操作:将第i-1层的输出数据作为第i层的输入数据,利用所述第i层的输入数据对第i层与第i+1层之间的权值矩阵进行训练,得到第i层与第i+1层之间的权值矩阵,所述i大于等于2,小于N;用所述权值矩阵初始化所述深度网络的相应层,以实现对用户信用模型建模过程的优化。
有选地,所述利用所述第i层的输入数据对第i层与第i+1层之间的权值矩阵进行训练具体包括:
根据所述第i层的输入数据,计算获得第i+1层的输出数据;
将所述第i+1层的输出数据作为输入数据,计算获得第i层的输出数据;
将所述第i层的输出数据作为输入数据,计算获得第i+1层中输出数据为预设数据的概率;
根据所述第i层的输入数据、第i+1层的输出数据、第i层的输出数据和第i+1层中输出数据为预设数据的概率,对第i层与第i+1层之间的权值矩阵进行训练。
优选地,所述根据所述第i层的输入数据获取第i+1层的输出数据具体包括:
根据所述第i层的输入数据,计算获得第i+1层的输出数据为预设数据的概率,并将所述概率与预设的概率阈值比较,如果所述概率小于所述预设的概率阈值,则第i+1层的输出数据为所述预设数据。
优选地,所述方法还包括:
根据所述第i层的输入数据和第i层的输出数据,对第i层的偏置项进行训练,并根据所述第i+1层的输出数据和第i+1层中输出数据为预设数据的概率,对第i+1层的偏置项进行训练,所述对第i层的偏置项和第i+1层的偏置项进行训练用以实现对用户信用模型建模过程的优化。
有选地,将所述深度网络的第i-1层、第i层以及第i+1层作为受限玻尔兹曼机进行训练。
优选地,在所述用训练得到的相应层的权值矩阵初始化所述深度网络的相应层之后,该方法还包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201610052278.2/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种新型自动圆管焊接装置
- 下一篇:一种可拆分式喷嘴