[发明专利]回归预测方法及装置

权利要求书

1.一种用于回归预测的特征扩充方法，所述方法包括：

在原数据点中选择待预测数据点的邻居，所述邻居是跟待预测数据点在某个维度或某几个维度上的值相等或相似的一系列原数据点；

利用这些邻居及其对应的因变量值来对原数据点和待预测数据点的维度进行扩充。

2.一种基于MapReduce的特征扩充方法，所述方法包括：

步骤1)在原数据点中选择待预测数据点的邻居，所述邻居是跟待预测数据点在某个维度或某几个维度上的值相等或相似的一系列原数据点；

步骤2)将每个原数据点分发成D₂-D₁+1份，其中D₂为原数据点扩充后的维数，D₁为原数据点扩充前的维数，每份数据为(key，value)，其中，key为需要接收本份数据的数据点的标识，value包括在接收本份数据的数据点要扩充的维的序号和发送本份数据的原数据点对应的因变量值；

步骤3)每个原数据点基于所接收的数据，提取value中包含的维的序号和因变量值来对自身的维度进行扩充。

3.一种回归预测方法，所述方法包括：

步骤a)利用如权利要求1或2所述的方法对每个原数据点X的维度进行扩充，得到扩充后的数据点；

步骤b)基于扩充后的数据点对待预测数据点进行回归预测。

4.一种基于MapReduce的回归预测方法，该方法包括：

步骤41)利用如权利要求2所述的方法对每个原数据点X的维度进行扩充，得到扩充后的数据点；

步骤42)基于扩充后的数据点，对待预测数据点进行相似度计算并分发数据对(key，value)，其中，key为待预测数据点的标识，value为扩充后的数据点的标识及其与待预测数据点的相似度；

步骤43)基于所计算的相似度，选出与待预测数据点最相近的K个扩充后的数据点，利用局部线性加权回归方法对待预测数据点进行回归预测。

5.根据权利要求4所述的回归预测方法，所述步骤42)中对于不同的扩充后的维度采用KL距离、cosine距离或欧式距离来计算相似度。

6.一种基于MapReduce的回归预测装置，所述装置包括：

用于利用如权利要求2所述的方法对每个原数据点X的维度进行扩充，得到扩充后的数据点的装置；

用于基于扩充后的数据点，对待预测数据点进行相似度计算并分发数据对(key，value)的装置，其中，key为待预测数据点的标识，value为扩充后的数据点的标识及其与待预测数据点的相似度；

用于基于所计算的相似度，选出与待预测数据点最相近的K个扩充后的数据点，利用局部线性加权回归方法对待预测数据点进行回归预测的装置。

7.一种有监督机器学习方法，所述方法包括：

1)训练数据的特征抽取和维度约简，形成数据点X(x1，x2....)和标签y的格式；

2)利用如权利要求1或2所述的特征扩充方法对数据点X进行扩充；

3)选择由扩充后的数据点来预测y的模型公式，确定模型参数类型和参数个数并在训练集的基础上进行训练；

4)利用模型和训练好的参数用在回归预测或分类上，最终得到回归预测结果或分类结果。

8.根据权利要求7所述的机器学习方法，其中步骤3)中模型公式为回归预测模型；所述步骤4)利用如权利要求3、4、5之一所述的回归预测方法来进行预测，并得到预测结果。

9.根据权利要求7或8所述的机器学习方法，所述方法用于进行天气预报、疾病预测、用户购买行为预测、音乐推荐、网络好友推荐，书籍推荐、比赛胜负预测，信息检索，垃圾邮件分类，新闻重要度预测等。