[发明专利]数据处理方法、数据识别和学习方法及其装置和计算机可读介质有效
申请号: | 201611112409.8 | 申请日: | 2016-12-06 |
公开(公告)号: | CN108154163B | 公开(公告)日: | 2020-11-24 |
发明(设计)人: | 闫强;李爱华;王晓;葛胜利 | 申请(专利权)人: | 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62 |
代理公司: | 中科专利商标代理有限责任公司 11021 | 代理人: | 倪斌 |
地址: | 100195 北京市海淀区杏石口路6*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 数据 识别 学习方法 及其 装置 计算机 可读 介质 | ||
1.一种用于对指示用户行为的行为数据进行处理的方法,包括:
(a)通过聚类的方式将所述行为数据的样本数据划分为多个编组;
(b)检查所述多个编组中每个编组是否存在正类标识数据,并删除不包含正类标识数据的编组,其中,所述正类标识数据是存在异常的用户的数据;
(c)确定所述多个编组中正类标识数据的总数量;
(d)确定所述正类标识数据的总数量在所述样本数据中所占比例是否大于第一预定阈值;
(e)在所述比例大于所述第一预定阈值的情况下,保留进行步骤(b)处理后的数据;以及
(f)在所述比例小于所述第一预定阈值的情况下,将步骤(b)处理后的数据作为所述样本数据执行步骤(a)-(e),其中,在重复执行的步骤(a)中增加编组的数量。
2.根据权利要求1所述的方法,还包括:
设置编组的最大数量值;
在步骤(f)中,如果当前编组的数量大于等于所述最大数量值,不再增加编组的数量,并保留最近一次步骤(b)处理后的数据,结束所述数据处理。
3.根据权利要求1或2所述的方法,其中,采用k-means算法来实现所述聚类的方式,
其中,通过k-means算法确定所述编组的初始数量,使得在所述初始数量处,各个聚类内的数据方差的总体变化减缓。
4.根据权利要求3所述的方法,其中,步骤(a)包括:
(a1)在所述样本数据中随机抽取多个样本数据分别作为所述多个编组中每个编组的中心点,所述多个数据样本的数量与要划分的所述多个编组的数量相等;
(a2)计算所有数据样本到每个中心点的距离,将每个数据样本划分到距离其最近的中心点所在的编组中;
(a3)计算每个编组中所有数据样本的平均值,并将所述平均值作为所述每个编组中新的中心点;
(a4)针对所述每个编组,判断所述新的中心点与之前的中心点之差是否大于第二预定阈值,以及如果中心点之差大于所述第二预定阈值,则使用所述新的中心点执行步骤(a2)和(a3),如果中心点之差不大于所述第二预定阈值,将所述新的中心确定为最优聚类中心;以及
(a5)计算所有样本数据到每个最优聚类中心点的距离,将每个样本数据重新划分到距离其最近的最优聚类中心点所在的编组中。
5.一种用于模式识别和学习的方法,包括:
基于权利要求1至4中任一项所述的方法获得样本数据的经处理的多个编组;以及
基于所述样本数据的经处理的多个编组来执行模式识别和学习。
6.一种数据处理装置,包括:
编组划分模块,用于通过聚类的方式将指示用户行为的行为数据的样本数据划分为多个编组;
数据检查模块,用于检查所述多个编组中每个编组是否存在正类标识数据,其中,所述正类标识数据是存在异常的用户的数据;
数据删除模块,用于删除不包含正类标识数据的编组;
数据数量确定模块,用于确定所述多个编组中正类标识数据的总数量;
数据比例确定模块,用于确定所述正类标识数据的总数量在所述样本数据中所占比例是否大于第一预定阈值;以及
数据保留模块,用于在所述比例大于所述第一预定阈值的情况下,保留所述数据删除模块处理后的数据,
其中,所述编组划分模块还用于在所述比例小于所述第一预定阈值的情况下,将所述数据删除模块处理后的数据作为所述样本数据来执行编组划分,以重复所述数据检查模块、所述数据删除模块、所述数据数量确定模块、所述数据比例确定模块和所述数据保留模块的操作,其中,在对所述数据删除模块处理后的数据的编组操作中增加编组的数量。
7.根据权利要求6所述的数据处理装置,还包括:
最大编组数设置模块,用于设置编组的最大数量值;
其中,如果当前编组的数量大于等于所述最大数量值,则所述编组划分模块在重复执行数据编组操作时不再增加编组的数量,且所述数据保留模块保留最近一次所述数据删除模块处理后的数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201611112409.8/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置