[发明专利]一种分布式数据挖掘模型评估的方法与系统

权利要求书

1.一种分布式数据挖掘模型评估的方法，其特征在于，包括：

S1，利用特定评估指标集生成模型评估模块；

S2，基于评估数据集，利用所述模型评估模块以分布式策略对至少一个数据挖掘模型进行评估。

2.如权利要求1所述的方法，其特征在于，所述S1进一步包括：

S1.1，建立评估指标库，将所述特定评估指标集配置到所述评估指标库中；

S1.2，生成一个包含所述特定评估指标集中的全部评估指标的模型评估模块。

3.如权利要求1所述的方法，其特征在于，所述S2进一步包括：

S2.1，从大数据中获取所述评估数据集，选取数据挖掘算法对所述评估数据集进行数据分析，获得数据挖掘模型；

S2.2，基于Spark分布式计算框架，利用所述模型评估模块对所述数据挖掘模型进行评估，以评估数据挖掘模型或数据挖掘算法的优劣。

4.如权利要求2所述的方法，其特征在于，所述特定评估指标集中的评估指标包括准确率、召回率、F-测量、ROC曲线、AUC面积、均方误差、均方根误差和平均绝对误差。

5.如权利要求3所述的方法，其特征在于，所述S2.1进一步包括：

基于一个数据挖掘算法，配置不同的参数对所述评估数据集进行数据分析，获得用于评估数据挖掘模型的多个数据挖掘模型；或者

基于多个数据挖掘算法，对所述评估数据集进行数据分析，获得用于评估数据挖掘算法的多个数据挖掘模型。

6.如权利要求3所述的方法，其特征在于，所述S2.2进一步包括：

S2.2.1，将所述模型评估模块配置为评估流程节点；

S2.2.2，基于所述评估流程节点和预设的评估指标，利用所述Spark分布式计算框架对待评估的数据挖掘模型进行评估，获得评估结果，并将所述评估结果写入数据库。

7.如权利要求6所述的方法，其特征在于，所述S2.2进一步包括：

S2.2.3，通过增益图和/或提升图对所述评估结果进行显示。

8.如权利要求3所述的方法，其特征在于，所述S2.2进一步包括：

所述模型评估模块对基于一个数据挖掘算法的多个数据挖掘模型分别进行评估，获得对所述多个数据挖掘模型的评估结果；或者

所述模型评估模块对基于多个数据挖掘算法的多个数据挖掘模型分别进行评估，获得对所述多个数据挖掘算法的评估结果。

9.如权利要求3所述的方法，其特征在于，所述预设的评估指标为所述特定评估指标集中的至少一种。

10.一种分布式数据挖掘模型评估的系统，其特征在于，包括评估模块生成模块和模型评估模块，

所述评估模块生成模块，用于利用特定评估指标集生成模型评估模块；

所述模型评估模块，用于基于评估数据集，利用所述模型评估模块以分布式策略对至少一个数据挖掘模型进行评估。