[发明专利]神经流证明

说明书

提供了用于实现神经流证明引擎并基于神经流执行计算机模型执行完整性验证的机制。输入数据被输入到包括多层神经元的经训练的计算机模型。神经流证明引擎针对输入数据中的输入数据实例集记录由经训练的计算机模型生成的输出类和通过多层神经元的神经流，从而生成所记录的神经流。将经训练的计算机模型部署到计算平台，并且神经流证明引擎基于所部署的经训练的计算机模型的运行时神经流和所记录的神经流来验证所部署的经训练的计算机模型的执行完整性。

技术领域

本申请一般涉及改进的数据处理装置和方法，并且更具体地涉及用于执行神经流证明的机制。

背景技术

由于深度学习系统在执行认知任务时能够接近人类表现，因此深度学习系统已经被广泛地部署为人工智能(AI)服务的一部分。深度学习是一类机器学习技术，其使用级联的多层非线性处理单元来进行特征提取和变换。每个连续层使用来自输入的前一层的输出。使用监督的(例如分类)和/或无监督的(例如模式分析)学习机制来训练深度学习系统。可以关于与不同抽象级别对应的多个表示级别来执行学习，其中这些级别形成概念的层次结构。

大多数现代深度学习模型基于人工神经网络，尽管它们还可以包括在深度生成模型中逐层组织的命题公式或潜在变量，诸如在深度信念网络和深度玻尔兹曼机中的节点。在深度学习中，每个级别，例如神经网络的层，学习将其输入数据变换成稍微更抽象和合成的表示。在图像识别应用中，例如，原始输入可以是像素矩阵，其中像素的多个抽象层作为所识别的特征。重要的是，深度学习过程可以学习哪些特征将其自身最佳地置于哪个级别，但是这并不完全避免对手动调谐的需要。例如，手动调谐可以用于改变层的数量和层大小，以便提供不同的抽象程度。

“深度学习”中的“深度”是指数据通过其被变换的层的数量。更准确地说，深度学习系统具有实质信用分配路径(CAP)深度。CAP是从输入到输出的变换的链。CAP描述输入和输出之间的潜在因果连接。对于前馈神经网络，CAP的深度是网络的深度，并且是隐藏层加一的数目(因为输出层也被参数化)。对于循环神经网络，其中信号可以不止一次地传播通过层，CAP深度可能是无限的。没有普遍同意的深度阈值将浅学习与深学习分开，但是大多数研究者同意深学习涉及大于2的CAP深度。深度为2的CAP在它可以仿真任何功能的意义上已被证明是通用逼近器。除此之外，更多的层不增加网络的函数逼近器能力，但是额外的层帮助学习特征。

然而，至少需要验证所部署的经训练的计算机模型的完整性。因此，在本领域中需要解决前述问题。

发明内容

从另一方面来看，本发明提供了一种在包括至少一个处理器和至少一个存储器的数据处理系统中的方法，至少一个存储器包括指令，该指令由至少一个处理器执行以配置至少一个处理器来实现神经流证明引擎，方法包括：由神经流证明引擎将输入数据输入到经训练的计算机模型，其中经训练的计算机模型包括多层神经元；由神经流证明引擎针对输入数据中的输入数据实例集记录由经训练的计算机模型生成的输出类和通过多层神经元的神经流，从而生成所记录的神经流，其中输出类是多个可能的输出类中的一个；将经训练的计算机模型部署到计算平台；以及由神经流证明引擎基于所部署的经训练的计算机模型的运行时神经流和所记录的神经流来验证所部署的经训练的计算机模型的完整性。

一种计算机程序产品，包括具有存储在其中的计算机可读程序的计算机可读存储介质，其中，计算机可读程序当在数据处理系统上执行时，使得数据处理系统实现神经流证明引擎，神经流证明引擎执行以下操作：将输入数据输入到经训练的计算机模型，其中经训练的计算机模型包括多层神经元；针对输入数据中的输入数据实例集记录由经训练的计算机模型生成的输出类和通过多层神经元的神经流，从而生成所记录的神经流，其中输出类是多个可能的输出类中的一个；将经训练的计算机模型部署到计算平台；以及基于所部署的经训练的计算机模型的运行时神经流和所记录的神经流来验证所部署的经训练的计算机模型的完整性。