[发明专利]一种面向大数据处理的数据处理方法和装置有效
申请号: | 201410217394.6 | 申请日: | 2014-05-21 |
公开(公告)号: | CN104008153B | 公开(公告)日: | 2017-09-26 |
发明(设计)人: | 亓开元;辛国茂;赵仁明;房体盈 | 申请(专利权)人: | 浪潮(北京)电子信息产业有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30;H04L29/08 |
代理公司: | 北京安信方达知识产权代理有限公司11262 | 代理人: | 王丹,栗若木 |
地址: | 100085 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种面向大数据的数据处理方法和装置,该方法包括获取处理环境数据及负载场景数据;选择处理环境数据及负载场景数据对应的压缩方式;根据所选择的压缩方式对数据进行处理;处理环境数据包括网络传输的性能指标和磁盘的性能指标;负载场景数据包括读操作比例和写操作比例,读操作比例与写操作比例相加为1。本发明能够指导在不同运行环境、不同负载场景下的压缩方式的选择,优化大数据处理性能。 | ||
搜索关键词: | 一种 面向 数据处理 方法 装置 | ||
【主权项】:
一种面向大数据的数据处理方法,其特征在于,包括:获取处理环境数据及负载场景数据;选择所述处理环境数据及负载场景数据对应的压缩方式;根据所选择的压缩方式对数据进行处理;所述处理环境数据包括网络传输的性能指标和磁盘的性能指标;所述负载场景数据包括读操作比例和写操作比例,所述读操作比例与写操作比例相加为1;选择所述处理环境数据及负载场景数据对应的压缩方式包括:在所述读操作的比例在90%以上时,选择使用Snappy或LZO压缩方式。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浪潮(北京)电子信息产业有限公司,未经浪潮(北京)电子信息产业有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201410217394.6/,转载请声明来源钻瓜专利网。
- 上一篇:一种救生艇上的海水淡化器
- 下一篇:一种治疗小儿麻痹症的中药组合物