[发明专利]一种有理式函数神经网络构建方法、系统及可读存储介质

说明书

本发明公开了一种有理式函数神经网络构建方法、系统及可读存储介质，属于计算机技术领域，包括：获取样本集合，并将样本集合划分为有标签样本集合和无标签样本集合；参数初始化，求解输出权重向量，对集成系数向量进行更新以及计算最优的输出权重向量。采用本发明方法构建模型，可提升模型的准确性、鲁棒性、安全性和可解释性。

技术领域

本发明涉及计算机技术领域，特别涉及一种有理式函数神经网络构建方法、系统及可读存储介质。

背景技术

机器学习是一门多学科交叉专业，涵盖概率论知识，统计学知识，近似理论知识和复杂算法知识，使用计算机作为工具并致力于真实实时的模拟人类学习方式，并将现有内容进行知识结构划分来有效提高学习效率。该学科的快速发展涌现出了大量的机器学习模型与算法，例如：支持向量机，决策树，深度森林，宽度学习系统，极限学习机以及这些模型的推广、变形与应用。然而，这些模型大多是黑盒的，因此人们无法评价其可靠性，进而导致其无法适用于工业、金融等风险等敏感领域。

有理式函数神经网络作为可解释神经网络的一种典型代表，必然能够在某些领域发挥其巨大作用，其构建方法将直接决定该模型的性能。目前已有的模型构建方法存在以下问题：第一，没有考虑训练样本的不均衡性；第二，没有考虑无标注样本的几何结构信息；第三，没有考虑模型的复杂度与可解释性之间的关系；第四，没有考虑伪标注样本潜在的风险。

发明内容

本发明的目的在于克服上述背景技术中的不足，解决现有技术中存在的模型构建问题，提升模型的准确性、鲁棒性、安全性与可解释性。

为实现以上目的，第一方面，采用一种有理式函数神经网络构建方法，包括：

S1、获取样本集合，并将样本集合划分为有标签样本集合和无标签样本集合；

S2、设定集成系数向量ζ，全局迭代次数t为1，输出权重向量求解的迭代次数k为1，输出权重向量求解的最大迭代次数K0以及全局最大迭代次数T0；

S3、执行输出权重向量求解的迭代循环，直至kK，则令然后执行步骤S4；

S4、对集成系数向量进行更新，然后执行步骤S5；

S5、令t自增1，并判断是否满足t≤T，若是执行步骤S6，若否执行步骤S7；

S6、令伪标签向量并更新然后执行步骤S3，其中为多元单向式特征矩阵，H为扩展的多元单向式特征矩阵，H_u为H的后u个行向量组成的矩阵，为最优的输出权重向量，y_l为样本x_l的标注，ρ为全为1的向量，diag()为对角矩阵；

S7、停止全局迭代并输出最优的输出权重向量构建有理式函数神经网络。

进一步地，所述执行输出权重向量求解的迭代循环，直至kK，则令包括：

令

令中间向量并求解出Ω_k，其中，Lipschitz系数L_z0，Ω_k-1为第k-1次迭代的输出权重向量，为目标函数前置项，为关于实时迭代更新后的输出权重向量Ω的导数；

令k自增1，并判断是否满足kK；

若是，则令并执行所述步骤S4；

若否，则否则重新令中间向量并求解出Ω_k。

进一步地，所述目标函数前置项的表示形式为：

所述关于Ω的导数的表示形式为：

求解的Ω_k表示形式为：