[发明专利]一种对隐私计算模型安全发布及引用的装置及方法

说明书

本发明公开了一种对隐私计算模型安全发布及引用的装置及方法，装置包括多个节点，多个节点分别表示为：节点A、节点B、节点C...节点DATA，节点A、节点B、节点C...节点DATA均为多方隐私计算节点，装置中的节点同时支持在单方/多方建模下的隐私模型发布与引用，节点A、节点B、节点C...节点DATA均利用隐私计算技术进行建模计算，隐私计算技术包括计算联邦学习、多方安全计算和同态加密。本发明装置及方法通过核心算法：价值噪声回归算法，通过对训练好的模型或是数学多项式等，结合模型或数学运算的出来的结果集，对原始数据集、结果集、模型等隐私敏感类数据进行价值噪声获取并加入噪声形成脱敏状态，但又保证了数据的有价值意义的运算。

技术领域

本发明属于隐私计算领域，尤其涉及一种对隐私计算模型安全发布及引用的装置及方法。

背景技术

目前有关机器学习模型或其他数据应用模型，对其在训练运行完成之后，都想将其进行公开发布至其他人所使用，例如：对图像数据集、文本数据进行深度学习后得出的模型，基于数学运算得出的一个可用于生产的多项式公式等，将这些公开出去，对于使用方和研发方都能带来一些利益上的价值。

但公开时会存在一些较为严重的隐私数据问题，比如模型的参数、模型的权重项偏置项、模型的结构等都会出现泄露，这些泄露可会被攻击进行穷举进而可以大概率的反推出原始使用的隐私数据集，这就会造成隐私数据泄露，有些模型的公开甚至还需要将所用到的数据集进行公开，因为需要给到第三方使用一起参与再次训练等，比如本地单方建模等等，这样就甚至会直接泄露原始隐私数据。

需要说明的是，上述内容属于发明人的技术认知范畴，并不必然构成现有技术。

发明内容

为了解决上述问题，本发明的目的是提供一种对隐私计算模型安全发布及引用的装置及方法，致力于尽可能的既保证单方或多方模型能够正常发布公开使用，又能保证隐私在不被泄露的情况下，同时使得数据和模型还保持有一种有价值意义的计算，通过核心算法：价值噪声回归算法，通过对训练好的模型或是数学多项式等，结合模型或数学运算的出来的结果集，对原始数据集、结果集、模型等隐私敏感类数据进行价值噪声获取并加入噪声形成脱敏状态，但又保证了数据的有价值意义的运算，最终可达到一种隐私模型能够安全的发布与引用。

为实现上述目的，本发明提出了一种对隐私计算模型安全发布及引用的装置，装置包括多个节点，多个节点分别表示为：节点A、节点B、节点C...节点DATA，节点A、节点B、节点C...节点DATA均为多方隐私计算节点，装置中的节点同时支持在单方/多方建模下的隐私模型发布与引用。

节点A、节点B、节点C...节点DATA均利用隐私计算技术进行建模计算，隐私计算技术包括计算联邦学习、多方安全计算和同态加密。

节点A、节点B、节点C...节点DATA均利用自己本地的隐私数据进行多方的隐私建模计算，最终会得到五个输出：结果数据、模型、结构、报告和输入源。

进一步的，所述结果数据是隐私建模计算后得到的结果数据；模型则是类隐私机器学习训练得到的模型结果。

所述结构是一个dag结构，在运行逻辑回归前，需要对数据进行特征工程，特征工程包括特征筛选和特征采样，特征工程或算法之间通过dag结构进行前后连接，形成一种有顺序执行的模型结构。

所述报告是训练得到的模型报告，用于对模型进行评价。

所述输入源则表示该模型用到了节点A、节点B、节点C...节点DATA的哪些源始隐私数据。

进一步的，将所述输出代入价值噪声回归算法，价值噪声回归算法是利用已经经过隐私建模计算得到的模型，并在其中获取相关特征的价值噪声影响特征取值幅度，价值噪声回归算法最终输出的结果称为价值噪声包，价值噪声包包含有结果数据、模型、结构、报告和输入源并已经过脱敏。