[发明专利]一种基于HDFS的小文件处理方法、装置、介质及电子设备在审
申请号: | 202110417936.4 | 申请日: | 2021-04-19 |
公开(公告)号: | CN113111036A | 公开(公告)日: | 2021-07-13 |
发明(设计)人: | 魏鹏飞;万月亮;火一莽 | 申请(专利权)人: | 北京锐安科技有限公司 |
主分类号: | G06F16/16 | 分类号: | G06F16/16;G06F16/182 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 孟金喆 |
地址: | 100044 北京市海淀区西小口*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请实施例公开了一种基于HDFS的小文件处理方法、装置、介质及电子设备。该方法包括:对待处理文件进行筛选,获得目标文件;若所述目标文件满足文件体积约束条件,则根据预设写入规则将所述目标文件保存至目标集群;将所述目标集群中的各目标文件按文件类型进行合并,获得合并文件,并将所述合并文件传输至HDFS。本技术方案,可以将小文件保存至集群中,并将集群中的各小文件合并成大文件存储到HDFS中,节省了小文件处理的时间,提高了处理效率。 | ||
搜索关键词: | 一种 基于 hdfs 文件 处理 方法 装置 介质 电子设备 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京锐安科技有限公司,未经北京锐安科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202110417936.4/,转载请声明来源钻瓜专利网。
- 上一篇:一种涡轮发动机叶轮生产表面处理方法
- 下一篇:一种电镀污泥低温干化处理工艺