[发明专利]一种系统安全验证的方法和装置

说明书

本发明公开了一种系统安全验证的方法和装置。该方法首先通过多项式插值方法对控制器进行多项式抽象，并估计两者之间误差上界，以此将控制器拟合成带扰动的抽象多项式；然后通过利用SOS松弛求解得到被控系统的候补栅栏函数；最后采用SMT求解器候补栅栏函数是否满足最终结果的正确性。相比于传统的基于可达集的验证方法，本发明能够验证无穷时间域上的安全性。此外，相比于数据驱动的栅栏函数生成算法，本发明所生成候补栅栏函数更为精确。

技术领域

本发明涉及系统可满足性验证。

背景技术

深度神经网络控制器在很多安全攸关的领域得到了越来越广泛的应用，如自动驾驶，无人机和飞机避障等，但它们的安全性和可靠性研究一直是比较欠缺的；近年来，这些系统的一些安全事故的发生更是引发了广泛的安全需求。

已有的研究主要集中在可达集分析方法上，主要通过集合运算计算从初始化区域出发的系统轨迹的可达集或其过近似，并判断是否与非安全区域有交集。这种方法只能验证有限时间内的安全性，且随着输入维度的增大过近似的误差会快速增大，导致可扩展性不足。

另一种研究方法是基于栅栏函数的思想，这种方法能够验证无穷时间上的安全性，但已有的工作主要是数据驱动的生成方法，缺少更加精准的生成方法。

发明内容

本发明所要解决的问题：对控制器所控制的系统进行安全性验证。

为解决上述问题，本发明采用的方案如下：

根据本发明的一种系统安全验证的方法，该方法涉及被控系统和连接并驱动所述被控系统的控制器；其中，所述被控系统有N个状态量，所述控制器获取所述被控系统的N个状态量，输出M个驱动量用以驱动所述被控系统；其中，N个状态量表示为：x＝{x₁,x₂,…,x_N}，M个驱动量表示为：u＝{u₁,u₂,…,u_M}；其中，N≥1,M≥1；所述方法包括以下步骤：

S1：获取所述被控系统的状态量的不变式区域T、非安全区域U、初始区域I和常微分方程建模的系统行为；所述不变式区域T、非安全区域U、初始区域I定义了所述状态向量x中各个状态量x_i的取值范围：

不变式区域T：

非安全区域U：

初始区域I：

其中，所述非安全区域U和初始区域I均在所述不变式区域T的范围内，即满足条件：

以及

所述常微分方程建模的系统行为表示为：

其中，f₁,f₂,…,f_N均为预先定义的被控系统关于N个状态量和M个驱动量的函数；