[发明专利]一种信息处理方法及装置

权利要求书

1.一种信息处理方法，其特征在于，包括：

确定机器学习模型对输入信息的处理结果，所述处理结果为分类预测值或回归预测值；

确定在所述机器学习模型内的各变量中，所述处理结果涉及的变量；所述处理结果涉及的变量包括：对所述处理结果产生影响的决策树中的节点对应的决策变量；

计算所述处理结果涉及的变量对所述处理结果的贡献度；

根据所述处理结果涉及的变量及其贡献度，输出对所述处理结果的解释信息。

2.如权利要求1所述的方法，其特征在于，所述处理结果是所述机器学习模型基于决策树对所述输入信息进行处理得到的。

3.如权利要求2所述的方法，其特征在于，所述确定在所述机器学习模型内的各变量中，所述处理结果涉及的变量，具体包括：

确定所述处理结果在所述决策树上对应的决策路径；

确定所述决策路径上的节点对应的决策变量，作为所述处理结果涉及的变量。

4.如权利要求3所述的方法，其特征在于，所述计算所述处理结果涉及的变量对所述处理结果的贡献度，具体包括：

根据所述处理结果，确定所述决策路径上的各节点分别对应的分类预测值或回归预测值；

根据所述各节点分别对应的分类预测值或回归预测值，计算所述处理结果涉及的变量对所述处理结果的贡献度。

5.如权利要求4所述的方法，其特征在于，所述根据所述各节点分别对应的分类预测值或回归预测值，计算所述处理结果涉及的变量对所述处理结果的贡献度，具体包括：

分别对于所述各节点中除叶节点之外的每个节点执行：

根据该节点对应的分类预测值或回归预测值，以及该节点在所述决策路径上的相邻子节点对应的分类预测值或回归预测值，确定该节点对应的决策变量在该节点处的贡献度；

根据确定出的各节点对应的决策变量在各节点处的贡献度，计算所述处理结果涉及的变量对所述处理结果的贡献度。

6.如权利要求5所述的方法，其特征在于，对于所述决策路径上的首节点对应的分类预测值或回归预测值、所述处理结果涉及的变量对所述处理结果的贡献度，这两者之和等于所述处理结果。

7.如权利要求3所述的方法，其特征在于，所述计算所述处理结果涉及的变量对所述处理结果的贡献度，具体包括：

计算所述决策路径上的各节点分别的纯度；

根据所述各节点分别的纯度，计算所述处理结果涉及的变量对所述处理结果的贡献度；

其中，所述纯度为熵或基尼值。

8.如权利要求1所述的方法，其特征在于，所述根据所述处理结果涉及的变量及其贡献度，输出对所述处理结果的解释信息，具体包括：

根据所述处理结果涉及的变量的贡献度，选择所述处理结果涉及的变量中的至少部分变量；

确定所述至少部分变量分别对应的多层次解释信息，其中，所述多层次解释信息中的不同层次的内容的详细程度不同；

根据指定权限，输出所述部分变量分别对应的多层次解释信息中的至少一个层次的内容，作为对所述处理结果的解释信息。

9.一种信息处理装置，其特征在于，包括：

第一确定模块，确定机器学习模型对输入信息的处理结果，所述处理结果为分类预测值或回归预测值；

第二确定模块，确定在所述机器学习模型内的各变量中，所述处理结果涉及的变量；所述处理结果涉及的变量包括：对所述处理结果产生影响的决策树中的节点对应的决策变量；

计算模块，计算所述处理结果涉及的变量对所述处理结果的贡献度；

输出模块，根据所述处理结果涉及的变量及其贡献度，输出对所述处理结果的解释信息。

10.如权利要求9所述的装置，其特征在于，所述处理结果是所述机器学习模型基于决策树对所述输入信息进行处理得到的。