[发明专利]一种海量数据的处理方法及装置在审
| 申请号: | 201510574130.0 | 申请日: | 2015-09-10 |
| 公开(公告)号: | CN105204944A | 公开(公告)日: | 2015-12-30 |
| 发明(设计)人: | 贾伟;郭锋 | 申请(专利权)人: | 浪潮集团有限公司 |
| 主分类号: | G06F9/50 | 分类号: | G06F9/50 |
| 代理公司: | 济南信达专利事务所有限公司 37100 | 代理人: | 李世喆 |
| 地址: | 250100 山东*** | 国省代码: | 山东;37 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 海量 数据 处理 方法 装置 | ||
1.一种海量数据的处理方法,其特征在于,包括:
计算出所有待处理数据分别对应的数值;
根据所有数值中的最大值,建立数组;其中,所述数组中至少包括与所述最大值对应的数值相等的个数的存放位置,每一个存放位置对应该存放位置在所述数组中的位置序号;
遍历所述所有数值,针对遍历到的每一个数值,执行如下操作:将所述当前数值存放到所述数组中与所述当前数值相等的位置序号所对应的存放位置处,并在对应的存放位置处的标识加1,其中,未存放有数值的存放位置处的标识初始值为0,其中,该标识对应的值用于表征对应存放位置处存放的数值个数。
2.根据权利要求1所述的方法,其特征在于,在所述计算出所有待处理数据分别对应的数值之后,所述根据所有数值中的最大值,建立数组之前,进一步包括:
对所有数值进行初始化操作,以使初始化操作后的所有数值都是整数。
3.根据权利要求1所述的方法,其特征在于,在所述根据所有数值中的最大值,建立数组之前,进一步包括:利用HashSet容器、SortedSet容器、TreeSet容器或EnumSet容器对所有数值中的重复数值进行过滤。
4.根据权利要求1所述的方法,其特征在于,进一步包括:
记录计算出所有待处理数据分别对应的数值的开始时间点以及记录将所有数值中的最后一个数值存放到所述数组中与该最后一个数值相等的位置序号所对应的存放位置处的时间点,以确定海量数据的处理时间段。
5.根据权利要求1-4中任一所述的方法,其特征在于,进一步包括:
依次从所述数组中每一个存放位置处取出不为0的数值,其中,在取值过程中,若存放位置处的标识大于1,则依次从该存放位置处取出与该存放位置的标识相等个数的数值,并将依次取出的不为0的数值存入列表中。
6.一种海量数据的处理装置,其特征在于,包括:
计算单元,用于计算出所有待处理数据分别对应的数值;
建立单元,用于根据所有数值中的最大值,建立数组;其中,所述数组中至少包括与所述最大值对应的数值相等的个数的存放位置,每一个存放位置对应该存放位置在所述数组中的位置序号;
处理单元,用于遍历所述所有数值,针对遍历到的每一个数值,执行如下操作:将所述当前数值存放到所述数组中与所述当前数值相等的位置序号所对应的存放位置处,并在对应的存放位置处的标识加1,其中,未存放有数值的存放位置处的标识初始值为0,其中,该标识对应的值用于表征对应存放位置处存放的数值个数。
7.根据权利要求6所述的海量数据的处理装置,其特征在于,进一步包括:
初始化操作单元,用于对所有数值进行初始化操作,以使初始化操作后的所有数值都是整数。
8.根据权利要求6所述的海量数据的处理装置,其特征在于,进一步包括:
过滤单元,用于利用HashSet容器、SortedSet容器、TreeSet容器或EnumSet容器对所有数值中的重复数值进行过滤。
9.根据权利要求6所述的海量数据的处理装置,其特征在于,进一步包括:
记录单元,用于记录计算出所有待处理数据分别对应的数值的开始时间点以及记录将所有数值中的最后一个数值存放到所述数组中与该最后一个数值相等的位置序号所对应的存放位置处的时间点,以确定海量数据的处理时间段。
10.根据权利要求6-9中任一所述的海量数据的处理装置,其特征在于,进一步包括:
取值单元,用于依次从所述数组中每一个存放位置处取出不为0的数值,其中,在取值过程中,若存放位置处的标识大于1,则依次从该存放位置处取出与该存放位置的标识相等个数的数值,并将依次取出的不为0的数值存入列表中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浪潮集团有限公司,未经浪潮集团有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201510574130.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:透平膨胀机的外功输出传动连接装置
- 下一篇:一种无侧隙齿轮
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





