[发明专利]一种客户关系管理系统中用户聚类分析方法

摘要

本发明公开了一种客户关系管理系统中用户聚类分析方法，其特点是：建立了基于客户关系管理系统的体系结构、数据挖掘的应用流程以及全新算法的在客户关系管理系统一种用户聚类分析方法。能够弥补现有技术客户关系管理系统中用户聚类方法缺陷，具有科学合理，准确性高，通用性强，效果佳且简单可靠等优点。

主权项

一种客户关系管理系统中用户聚类分析方法，它依次包括的步骤有：业务问题的定义、数据的准备和筛选、数据的清洗和预处理(ETL)、抽取的正确可靠的数据、数据的挖掘、模式集合、模型选择与构建、对模型进行评价和解释、当结果满意则指导企业实践活动、且将客户和市场的反馈信息及时送入到数据仓库，便于企业进行快速的反应，当结果不满意则通过模型优化送入模型选择与构建，其特征是，具体步骤是：(1)对客户关系管理系统数据进行采集并分类：为保证训练的模型在之后的聚类中有较好的适应性，系统数据应按照系统用户规定分类，在不同段中各取至少100组数据作为训练样本；(2)对客户关系管理系统数据做归一化处理：设数据的论域为di＝[mi,Mi]，设ri＝udi(xi)，(i＝1,2,3,…,n)是模型对属值xi的无量纲值，且ri∈[0,1]其中，为的标准函数，经过归一化，个数据取值范围为[0,1]；(3)利用归一化处理后的数据，初始化隶属度U(t)，V(t)，其中t为迭代次数；(4)将V(t)按式(2)更新为V(t+1)；(5)将V(t+1)，按式(3)更新为U(t+1)；(6)当|J(t+1)‑J(t)|πε，或迭代次数t超过最大迭代次数M时，算法终止；否则转入步骤(2)；(7)聚类算法：约束条件中引入算法数学模型为minj(U,V,λ)=Σi=1cΣj=1nuijmdij2-Σi=1cΣj=1nλjuijmlnuijms.tΣi=1cuij=1,uij∈[0,1],Σj=1nuij∈(0,n),---(2)]]>其等价于优化问题minj(U,V)=Σi=1cΣj=1nδjmuijmdij2s.tΣi=1cuij=1,uij∈[0,1],Σj=1nuij∈(0,n),---(3)]]>其中：dkj＝‖xj‑vk‖表示样本点xj到类中心vk的欧氏距离，η∈(0，1)为类中心影响程度调节因子参数，δi=(Σk=1cdkj2)-1;λ=(λ1,λ2,Λ,λn);]]>其他参数与式(1)定义相同，式(3)与式(1)相比，显然考虑了数据在每次聚类过程中数据空间上的实际分布特性；(8)聚类算法中对隶属度引入半监督性质的补偿项Ψ，描述监督信息其表达式为ψ=Σi=1cΣj=1n(uij-u^ij)m,---(4)]]>类间分离度函数Φ描述不同类间的分散度问题，其表达式为φ=ηΣi=1cΣh=1,h≠ic||vi-vh||2,---(5)]]>希望类间超平面间隔更大，已知信息样本具有引导聚类的能力，其隶属度值的影响使最终聚类质量尽可能比用随机数聚类的准确性更高，因此，对式(3)做修改，对隶属度引入半监督性质的补偿项和类间分离度函数，得到新的目标函数，进而得到聚类方法的数学模型，其表达形式为minj(U,V)=Σi=1cΣj=1nδjm(uij-u^ij)mdij2-ηΣi=1cΣj=1nδmjm(uij-u^ij)mΣh=i,h≠kc||vi-vj||2,s.tΣi=1cuij=1,uij∈[0,1],Σj=1nuij∈(0,n),---(6)]]>其中:0πηπ1,η为类中心影响因子参数；其他参数与式(3)相同。对于模型(6)，利用Lagrange乘数因子法进行求解，构造Lagrange函数为J=J(U,V)-Σk=1nλk(Σi=1cuij-1),---(7)]]>令得到最优解的迭代公式为vi=Σδjm(uij-u^ij)mxj-ηΣj=1n[δjm(uij-u^ij)mΣh=i,h≠icvhΣj=1nδjm(uij-u^ij)m-η(c-1)Σj=1nδjm(uij-u^ij)m---(8)]]>uij=u^ij+1-Σk=1cu^ij(Σk=1Nδjmdij2-ηδjmΣh=1,h≠ic||vi-vh||2δjmdkj2-ηδjmΣh=1,h≠ic||v-vh||2)1/(m-1),---(9)]]>其中为监督信息项，其取值若满足数据xj为已知信息样本，则取值与已知信息相等；否则为零，为构成的c×n已知隶属度矩阵；(9)设PN为训练集，PN中有p个正例和n个反例，对于一个样本集，正例集的PE的概率为p/(p+n)，反例集NE的概率为n/(p+n)；一颗决策树可以被看做是具有正、反例集的消息源，消息源产生的消息期望信息是：I(p,n)=-pp+nlog2pp+n-np+nlog2np+n---(10)]]>设属性A的取值为{A1,A2,Λ,Am}，将PN分类为k个子集{PN1，PN2，Λ,PNk}，设PNi有pi个正例，ni个反例，子树PNi所需要的期望信息为I(pi,ni)，且根为A的树所需要的期望信息为各子树所需的期望信息的加权平均值，即：E(A)=Σi=1kpi+nip+nI(pi,ni)---(11)]]>以根为A的树进行分类得到的信息增益为：Gain(A)＝I(p,n)‑E(A)      (12)选择Gain(A)最大的属性作为该节点的分支属性，对于决策树的每个节点都使用这条原则，直到建立出完整的决策树为止；(10)决策树生成算法如下：输入：S：训练样本集，主要由离散属性值描述；Candidate‑attribute：候选属性集合，输出：一颗决策树，(a)创建节点N；(b)IF S都在一个类C THEN；(c)返回N作为叶结点，标记为类C；(d)IF Candidate‑attribute为Null THEN；(e)返回N作为叶结点，标记为S中的普通类；//多数表决；(f)选择Candidate‑attribute中具有最高信息增益的属性A；(g)标记节点N为A；(h)FOR Each A中的已知值ai；//划分训练样本；(i)由节点N长出一个条件为A＝ai的分支；(j)设Si是训练样本S中的分支；//一个划分；(k)IF A＝ai为Null THEN；(l)加上一个树叶，标记为S中最普通的类；(m)ELSE加上一个由Generate_decision_tree(S,candidate_A)返回的节点；在求出每个属性的信息增益后，利用函数算出参数，去修正该信息增益，将其作为属性选择及样本划分子集的分裂度量标准，对于缺少属性值的那些样本，利用相对频率随机概率数进行调整，具体算法的步骤依次是：统计样本总量、计算训练样本计划属性值信息增益Gain(Q)、修正训练样本计划属性值信息增益Gain’(Q)、根据MAXGain’(Q)的属性划分当前样本值、创建与MAXGain’(Q)属性值对应的根结点A、确定根节点A的下一级结点、求出全部的叶结点、生成决策树，不求出全部的叶结点返回计算训练样本计划属性值信息增益Gain(Q)，为了利用决策树进行聚类结果的分析，需要先定义一些客户价值的分析标准，这些标准以数据表的形式存放在数据库或XML文件中，在定义了客户价值的分析标准之后，利用算法生成决策树来对聚类分析的结构进行解释；(11)将客户关系管理系统的数据库数据作为输入，利用步骤(1)至步骤(10)建立的模型进行聚类，得到相关聚类结果。