[发明专利]AI软件系统安全状态的确定方法及装置

说明书

本申请公开了一种AI软件系统安全状态的确定方法及装置，属于人工智能技术领域。所述方法包括：AI软件系统中的监控代理模块确定目标对象的第一摘要值，并将第一摘要值上报给实时监控服务模块，由实时监控服务模块对该目标对象进行安全认证，以实现对该目标对象进行安全保护。由于目标对象置于REE中执行，有利于该软件系统的软件框架的部署相对集中，从而利于该AI软件系统的平台化。另外，相对于将关键性部件置于TEE中执行，置于REE的该关键性部件可以充分利用REE侧的丰富的计算资源，从而实现在保证关键性部件计算能力的同时，对该关键性部件进行安全保护。

技术领域

本申请涉及人工智能(Article Intelligence，AI)技术领域，特别涉及一种AI软件系统安全状态的确定方法及装置。

背景技术

终端上的操作系统为应用软件在终端上的运行提供平台，也即应用软件通过部署于操作系统各个层次上的模块实现该应用软件的功能，其中，将部署于操作系统各个层次上的模块构成的系统称为该应用软件的软件系统，如AI软件系统。需要说明的是，AI软件在运行过程中通常涉及到用户个人隐私数据的处理，但是目前操作系统的运行环境主要为开放式的富运行环境(Rich executing environment，REE)，导致部署在操作系统内的AI软件系统的关键性部件在进行数据处理的过程中可能面临恶意软件的威胁，因此，实际应用中需确定AI软件系统内的关键性部件的安全状态，也即确定AI软件系统的安全状态，以便于对AI软件系统进行安全保护。

针对REE带来的安全问题，全球平台组织(Global Platform，GP)提出一种可信运行环境(Trusted executing environment，TEE)，也即在操作系统上存在两种并行的运行环境，开放式的REE和相对封闭式的TEE。由于在TEE中执行的程序需要经过TEE的签名和哈希 (Hash)校验，因此在TEE中执行的程序可以得到安全保护。所以相关技术中，将AI软件系统内的关键性部件置于TEE中执行，其他部件则置于REE中执行，以通过在TEE中执行的关键性部件的校验结果确定该AI软件系统的安全状态，从而实现对AI软件系统的安全保护。例如，图1为相关技术中的一种基于AI软件框架的AI软件系统，该AI软件系统包括 AI框架应用协议接口(Application Programming Interface，API)、模型及关键数据文件、AI 框架主体、硬件抽象层(Hardware Abstraction Layer，HAL)、算法支持库、以及中央处理单元(Central Processing Unit，CPU)、图像处理单元(Graphic Processing Unit，GPU)、数字信号处理器(digital signal processing，DSP)等计算加速引擎。其中，模型及关键数据文件和 AI框架主体为该AI软件系统的关键性部件，因此可以将模型及关键数据文件和AI框架主体置于TEE中执行，其他部件则置于REE中执行，以实现对基于AI软件框架的AI软件系统的安全保护。然而，将AI软件系统中的关键性部件置于TEE中执行，而其他部件仍置于REE中执行，导致构成该AI软件系统的软件框架的部署相对分散。

发明内容

为了解决相关技术中在对AI软件系统进行安全保护时AI软件系统的软件框架的部署相对分散的问题，本申请提供了一种AI软件系统安全状态的确定方法及装置。所述技术方案如下：

第一方面，提供了一种AI软件系统安全状态的确定方法，所述方法包括：

所述AI软件系统中的监控代理模块确定所述AI软件系统中的目标对象的第一摘要值，所述第一摘要值用于指示所述目标对象的安全认证信息，其中，部署所述AI软件系统的操作系统的运行环境包括富运行环境REE和可信运行环境TEE，所述目标对象和所述监控代理模块置于所述REE中，所述目标对象为所述AI软件系统中部署在所述操作系统上的多个模块中的任一待进行安全认证的模块；

所述监控代理模块将所述第一摘要值上报给所述AI软件系统中的实时监控服务模块，所述实时监控服务模块置于所述TEE中；