[发明专利]人工智能系统保护方法、装置、AI分析设备及管控中心

说明书

本发明涉及人工智能安全技术领域，公开了人工智能系统保护方法、装置、AI分析设备及管控中心。本发明AI分析设备基于可信验证技术对自身目标程序及系统进行定期可信验证，根据验证结果与嵌入的可信密码模块进行交互以获取AIK，定期将所得验证结果上报至AI管控中心，并向AI管控中心发送AIK证书申请和AI运行信息申请请求；AI管控中心进行AIK证书的下发，并根据该申请请求在设备处于可信状态时，利用请求携带的公钥对最新AI运行信息进行加密；AI分析设备利用可信密码模块对接收到的加密AI运行信息进行解密，得到AI算法程序及算法参数。本发明能够有效实现对算法程序及参数的保护的同时满足算法程序及参数的频繁更新要求。

技术领域

本发明涉及人工智能安全技术领域，尤其涉及人工智能系统保护方法、装置、AI分析设备及管控中心。

背景技术

人工智能系统通常分为两个阶段：一是学习阶段，其利用学习样本进行学习并训练得到算法参数；二是分析阶段，其利用算法参数对输入数据进行分析并输出人工智能的分析结果。在学习阶段，人工智能系统的主要资产包括算法程序、样本数据以及经过训练得到的算法参数；在分析阶段，人工智能系统的主要资产包括算法程序、算法参数、实际数据及其分析结果。算法程序和算法参数作为核心资产，是人工智能系统保护的核心重点。

在训练阶段，算法程序及其数据通常在数据中心中运行，所在的物理环境和网络环境相对可控。而在分析阶段，使用端通常位于用户侧，如自动驾驶系统运行在车辆中、医疗影像识别智能系统运行在医院、变电站巡检机器人运行在变电站等，算法程序及参数所在的物理环境及网络环境不可控，同时还面临着人为的恶意数据窃取的风险。

为了保护人工智能系统的核心资产，传统的保护方式是采用“加密狗”的方案，该方案以小型加密设备作为AI分析软件的分发和运行的介质(即AI分析设备)，将算法程序和算法参数存储和运行在小型加密设备，并以硬件的方式提供。由于传统方案是基于硬件的方案，不能支持在线升级。如果需要更新，则需召回AI分析设备，由维护人员逐台设备更新AI分析软件，再重新部署。

随着人工智能的发展及广泛应用，算法程序和算法参数的更新日益频繁，传统的方式难以满足要求。

发明内容

本发明提供了人工智能系统保护方法、装置、AI分析设备及管控中心，解决了如何在实现对算法程序和算法参数的保护的同时满足算法程序和算法参数的频繁更新要求的技术问题。

本发明第一方面提供一种人工智能系统保护方法，所述方法由AI分析设备执行，所述方法包括：

基于可信验证技术对自身的目标程序及系统进行定期可信验证，得到可信验证结果；所述目标程序及系统包括BIOS、BootLoader和/或操作系统；

向嵌入的可信密码模块发送携带当前可信验证结果的AIK查询请求，接收并保存所述可信密码模块基于所述当前可信验证结果判定设备处于可信状态时反馈的AIK；

向AI管控中心发送携带所述AIK的AIK证书申请，接收并保存所述AI管控中心基于所述AIK反馈的AIK证书；

向所述AI管控中心定期上报进行可信验证时得到的可信验证结果；

向所述AI管控中心发送包括AI算法程序及算法参数在内的AI运行信息的申请请求；所述申请请求包括所述AIK证书及通过所述可信密码模块生成的公钥；

接收所述AI管控中心基于所接收到的当前可信验证结果判定设备处于可信状态时反馈的加密AI运行信息；所述加密AI运行信息通过利用所述公钥对相应的最新AI运行信息加密得到；

利用所述可信密码模块根据所生成的私钥对接收到的加密AI运行信息进行解密，得到AI算法程序及算法参数。

根据本发明第一方面的一种能够实现的方式，所述方法还包括：