[发明专利]一种基于复现思想的程序异常检测方法和装置

说明书

本发明实施例提供了一种基于复现思想的程序异常检测方法和装置，可用于人工智能技术领域，所述方法包括：通过预设探针，获取通过设置的训练过程训练得到待检测程序的过程中的中间参数；通过设置的训练过程，根据基础数据、中间参数和与参与方多次交互时参与方发送的中间结果进行训练，生成检测程序；按照设置的检测规则对待检测程序和检测程序进行程序异常检测，生成检测结果，能够在算法层面上进行程序异常检测，保证了联邦学习过程的安全性。

技术领域

本发明涉及计算机技术领域，特别涉及人工智能技术领域，尤其涉及一种基于复现思想的程序异常检测方法和装置。

背景技术

联邦学习的过程中存在安全漏洞，参与方可以在不让其他参与方得知的情况下，对联邦学习模型进行攻击，例如：不使用约定好的数据对模型进行训练或篡改中间结果，以推断其他参与方的数据信息或使得最终的模型发生偏移。

相关技术中，对联邦学习的检测方案多为操作层面检测，即：通过各类监控日志对参与方的操作或动作进行检测。操作层面检测无法检测到在模型训练过程中的异常，导致联邦学习过程的安全性较低。

发明内容

本发明的一个目的在于提供一种基于复现思想的程序异常检测方法，能够在算法层面上进行程序异常检测，保证了联邦学习过程的安全性。本发明的另一个目的在于提供一种基于复现思想的程序异常检测装置。本发明的再一个目的在于提供一种计算机可读介质。本发明的还一个目的在于提供一种计算机设备。

为了达到以上目的，本发明一方面公开了一种基于复现思想的程序异常检测方法，包括：

通过预设探针，获取通过设置的训练过程训练得到待检测程序的过程中的中间参数；

通过设置的训练过程，根据基础数据、中间参数和与参与方多次交互时参与方发送的中间结果进行训练，生成检测程序；

按照设置的检测规则对待检测程序和检测程序进行程序异常检测，生成检测结果。

优选的，设置规则包括设置的差值阈值；

按照设置的检测规则对获取的待检测程序和检测程序进行程序异常检测，生成检测结果，包括：

若待检测程序的参数与对应的检测程序的参数之间的差值小于差值阈值，生成程序正常的检测结果；

若待检测程序的参数与对应的检测程序的参数之间的差值大于或等于差值阈值，生成程序异常的检测结果。

优选的，设置规则还包括设置的浮点数精度的保留位数；

按照设置的检测规则对获取的待检测程序和检测程序进行程序异常检测，生成检测结果，包括：

按照浮点数精度的保留位数对待检测程序的参数进行计算，得到第一保留数；

按照浮点数精度的保留位数对与待检测程序的参数对应的检测程序的参数进行计算，得到第二保留数字；

若第一保留数与第二保留数相同，生成程序正常的检测结果；

若第一保留数与第二保留数不同，生成程序异常的检测结果。

优选的，预设探针包括获取探针和置回探针；

通过预设探针，获取通过设置的训练过程训练得到待检测程序的过程中的中间参数，包括：

通过获取探针，从通过设置的训练过程训练得到待检测程序的过程中获取中间参数；

将中间参数存储至本地文件；

通过置回探针，从本地文件中获取中间参数。

优选的，中间参数包括加密密钥和随机数；