[发明专利]模型决策解释实现方法、装置及计算机设备

说明书

本申请提出了一种模型决策解释实现方法、装置及计算机设备，获得针对目标案例的至少两个参考案例类别，并其对应的多个历史案例中，选择位于不同概率范围内的多个相似案例后，依据多个分类特征下目标案例的分类特征值，与不同参考案例类别对应的相似案例的分类特征值的比较结果，获得目标案例及多个相似案例各自的分类特征值的显示区域的显示状态，由于属于不同参考案例类别的相似案例的分类特征值显示区域的显示状态不同，使据此输出针对目标案例的分类特征差异表，能够直观指示目标案例属于哪个参考案例类别，即解释目标案例的模型决策结果，还能够指示目标案例的分类特征值的优化方向、最优分类特征值，以更好地满足用户需求。

技术领域

本申请主要涉及机器学习应用领域，更具体地说是涉及一种模型决策解释实现方法、装置及计算机设备。

背景技术

随着人工智能(Artificial Intelligence，AI)技术在制造、家居、交通、安防、医疗、教育及金融等众多领域的应用，被人们称为“黑盒”的机器学习模型的可解释性问题变得愈发重要。其中，在机器学习模型的应用场景中，可解释性表示该机器学习模型能够使用人类可认知的说法进行解释和呈现。

目前常用的解释方法是通过对模型特征进行分析，实现对模型特征的重要性排序，以此定位各模型特征对模型决策的贡献程度，如基于机器学习算法训练的图像分类模型，以包含多个连贯像素信息的图像片段为特征，分析各图像片段的区别，以此能够更加直观地解释该图像分类模型的决策。

然而，对于表格数据分类模型，其特征往往是独立的数据元素(如图像中单个像素，文本中的单个字符)，特征含义也是模糊的，不同特征之间的关联性不明确，使得特征集合不具备解释性，也就无法解释该模型决策。因此，如何实现对这类不可解释性的分类模型决策的解释成为技术人员重要研究方向之一。

发明内容

有鉴于此，本申请为了实现对模型决策的可视化解释，本申请提供了以下技术方案：

一方面，本申请提出了一种模型决策解释实现方法，所述方法包括：

依据针对目标案例的模型决策结果，获得针对所述目标案例的至少两个参考案例类别；

从不同参考案例类别各自对应的多个历史案例中，选择位于不同概率范围内的多个相似案例，所述概率是针对所述相似案例的模型决策结果为相应参考案例类别的概率；

依据多个分类特征下所述目标案例的分类特征值，与不同参考案例类别对应的相似案例的分类特征值之间的比较结果，获得所述目标案例及所述多个相似案例各自的分类特征值的显示区域的显示状态，其中，属于不同参考案例类别的相似案例的分类特征值的显示区域的显示状态不同；

按照获得的各分类特征值的显示区域的显示状态，输出针对所述目标案例的分类特征差异表，其中，所述分类特征差异表的第一维度为多个所述分类特征，第二维度为所述目标案例及所述多个相似案例。

可选的，所述依据针对目标案例的模型决策结果，获得针对所述目标案例的至少两个参考案例类别，包括：

将目标案例输入分类模型，得到所述目标案例的分类信息；

基于所述分类信息，获得与所述目标案例的类别相似度大于第一阈值的至少两个参考案例类别。

可选的，所述从不同参考案例类别各自对应的多个历史案例中，选择位于不同概率范围内的多个相似案例，包括：

从不同参考案例类别各自对应的多个历史案例中，选择具有最高概率的历史案例确定为相应参考案例类别的最佳案例；

构建所述目标案例与不同最佳案例之间的概率路径，其中，处于所述概率路径中，越靠近相应最佳案例的历史案例具有的概率越大；

对所述概率路径进行区域划分，得到对应不同概率范围的多个概率区域；