[发明专利]KI模块对欺骗尝试的敏感性的测量

权利要求书

1.一种用于测量KI模块（1）对欺骗尝试的敏感性的方法（100），其中所述KI模块（1）包括参数化的内部处理链（12）形式的可训练的人工智能并且被构成用于借助所述内部处理链（12）将来自具有维度D的输入空间E的输入数据集（11）映射到具有维度GD的输出空间F中的分类（13）和/或回归（14）上，具有如下步骤：

• 针对所述输入空间E中的预先给定的开放数据集（11），将所述分类（13）和/或回归（14）确定（110）为未受干扰的结果（13，14），所述KI模块（1）将所述开放数据集（11）映射到所述分类（13）和/或回归（14）上；

• 将至少一个具有维度dD的干扰S外加（120）在所述开放数据集（11）上，使得在所述输入空间E中形成至少一个受干扰的数据集（11'）；

• 将如下分类（13'）和/或回归（14'）确定（130）为受干扰的结果（13'，14'），所述KI模块（1）将所述受干扰的数据集（11'）映射到所述分类（13'）和/或回归（14'）上；

• 所述受干扰的结果（13'，14'）与未受干扰的结果（13，14）的偏差利用预先给定的度量标准（16）来确定（140）；

• 响应于所述偏差（15）满足（150）预先给定的标准，确定（160）：所述KI模块（1）关于所述开放数据集（11）对具有维度d的欺骗尝试是敏感的。

2.根据权利要求1所述的方法（100），其中将具有维度d的用于所述KI模块（1）的对抗样本确定为干扰S，（121）。

3.根据权利要求1至2中任一项所述的方法（100），其中将具有不同维度d的多个干扰S外加在相同的开放数据集（11）上，（122），并且其中最小维度c=min(d)作为所述KI模块（1）关于所述开放数据集（11）的敏感性的度量（17）来评价，（170），针对所述最小维度确定（160）所述KI模块（1）对欺骗尝试的敏感性。

4.根据权利要求1至3中任一项所述的方法（100），其中关于来自预先给定的集合M的多个数据集（11）确定所述KI模块（1）的敏感性，（115），并且其中通过根据所述数据集这样确定的敏感性确定汇总统计（18），（175）。

5.根据权利要求4所述的方法（100），其中所述汇总统计（18）包含平均值、和/或方差、和/或频率分布、和/或所确定的敏感性（17）的最差值。

6.一种用于建立KI模块（1）的方法（200），所述KI模块（1）包括参数化的内部处理链（12）形式的可训练的人工智能并且被构成用于借助所述内部处理链（12）将来自具有维度D的输入空间E的输入数据集（11）映射到具有维度GD的输出空间F中的分类（13）和/或回归（14）上，具有如下步骤：

• 所述内部处理链（12）的架构通过超参数（12a）来规定（210），

• 形成具有所述内部处理链（12）的KI模块（1），

• 所述KI模块（1）通过如下方式来训练（230）：所述内部处理链的参数（12b）借助学习数据集（11a）的集合L和所属的学习结果（13a，14a）来优化，使得所述KI模块（1）根据误差函数以预先给定的精度将所述学习数据集（11a）映射到所述学习结果（13a，14a）上；

• 利用验证数据集（11）的集合M利用根据权利要求4至5中任一项所述的方法确定（240）所训练的KI模块（1）的敏感性的汇总统计（18）；

• 如下优化（250）所述超参数（12a）：在重新形成（220）和训练（230）所述KI模块（1）之后，为此所确定的敏感性的汇总统计（18）表明对欺骗尝试的总体上更低的敏感性。

7.根据权利要求6所述的方法（200），其中通过如下方式优化（250）所述超参数（12a）：所述内部处理链（12）的架构利用演化算法来产生（251），其中分别在形成和训练具有架构的所述KI模块（1）之后所确定的敏感性的汇总统计（18）进入（252）用于评价所述架构的质量度量中。