[发明专利]数据划分处理方法、装置、电子设备及存储介质在审
申请号: | 202111092757.4 | 申请日: | 2021-09-17 |
公开(公告)号: | CN113806451A | 公开(公告)日: | 2021-12-17 |
发明(设计)人: | 邢雨濛 | 申请(专利权)人: | 平安普惠企业管理有限公司 |
主分类号: | G06F16/28 | 分类号: | G06F16/28;G06F16/25;G06F16/22 |
代理公司: | 北京鸿元知识产权代理有限公司 11327 | 代理人: | 袁文婷;张娓娓 |
地址: | 518000 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 划分 处理 方法 装置 电子设备 存储 介质 | ||
1.一种数据划分处理方法,其特征在于,包括:
按照预设维度在hive中剥离待处理数据,并对所述待处理数据进行格式转换以形成特定格式文件;
通过所述hive的临时目录将所述特定格式文件置于预设的文件服务器中;
通过预设的前置业务系统从所述文件服务器中获取所述特定格式文件,并将所述特定格式文件保存至预设的业务服务器中以形成业务文件数据;其中,所述预设的前置业务系统与所述文件服务器预连接;
在所述业务服务器中对所述业务文件数据进行进行拆分处理以形成文件组,并对所述文件组进行另存储以完成数据划分处理。
2.如权利要求1所述的数据划分处理方法,其特征在于,所述按照预设维度在hive中剥离待处理数据,并对所述待处理数据进行格式转换以形成特定格式文件,包括:
按照预设维度在所述hive中捞取待处理数据,并对所述待处理数据进行标记;
根据所述标记,通过预设的导出语句将所述待处理数据从所述hive中剥离导出;
对从所述hive中剥离导出的所述待处理数据进行特定格式的格式设置;
基于所述特定格式对所述待处理数据进行格式转换以形成特定格式文件。
3.如权利要求1所述的数据划分处理方法,其特征在于,所述通过所述hive的临时目录将所述特定格式文件置于预设的文件服务器中,包括:
将所述特定格式文件分割为预设数量个子文件;
将所述子文件汇总为子文件集;
将所述子文件集置于所述hive的临时目录下以形成hive临时文件;
通过发送指令将所述hive临时文件发送至与所述临时目录预连接的文件服务器中。
4.如权利要求3所述的数据划分处理方法,其特征在于,所述将所述子文件汇总为子文件集,包括:
获取所述子文件所属的特定格式文件;
为所述特定格式文件命名一级署名,并获取所述特定格式文件所分割子文件的顺序;
根据所述分割子文件的顺序为所述子文件命名序号,并在所述序号前添加所属特定格式文件的一级署名以形成各个子文件的标注名称;
按照所述标注名称对所述子文件进行排列以形成子文件列表,并将所述子文件列表移至空白文件夹中以形成子文件集。
5.如权利要求4所述的数据划分处理方法,其特征在于,所述通过预设的前置业务系统在所述文件服务器中获取所述特定格式文件,并将所述特定格式文件保存至预设的业务服务器中以形成业务文件数据,包括:
将提前预设的前置业务系统与所述文件服务器相连接;其中,所述前置业务系统为单独的系统,用于读取所述文件服务器中的文件;
通过所述前置业务系统在所述文件服务器中获取所述子文件集;
对所述子文件集进行重整处理以还原为特定格式文件;
将所述特定格式文件传输至与所述文件服务器相连接的业务服务器中。
6.如权利要求5所述的数据划分处理方法,其特征在于,还包括对所述特定格式文件进行存储处理以形成业务文件;其中,所述对所述特定格式文件进行存储处理以形成业务文件,包括:
使所述业务服务器外接业务数据库;
通过转存插件将所述特定格式文件分批次存储至所述外接业务数据库中以形成业务文件。
7.如权利要求1所述的数据划分处理方法,其特征在于,所述在所述业务服务器中对所述业务文件数据进行进行拆分处理以形成文件组,并对所述文件组进行另存储以完成数据划分处理,包括:
对所述业务文件进行遍历读取以形成业务数据;
根据在所述业务数据库中预设置的时间字段为每条业务数据添加时间标识;
通过预设的数据捞取程序根据所述时间标识对所述业务数据进行分类别汇总,并将每一类别的业务数据对应至与所述类别相对应的数据捞取命令中;
为与所述数据捞取命令相对应的业务数据生成处理文件;
按照预先配置的数量对所述处理文件进行拆分以形成文件组;
对所述文件组进行另存储以完成数据划分处理。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安普惠企业管理有限公司,未经平安普惠企业管理有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111092757.4/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置