[发明专利]数据划分处理方法、装置、电子设备及存储介质在审

专利信息
申请号: 202111092757.4 申请日: 2021-09-17
公开(公告)号: CN113806451A 公开(公告)日: 2021-12-17
发明(设计)人: 邢雨濛 申请(专利权)人: 平安普惠企业管理有限公司
主分类号: G06F16/28 分类号: G06F16/28;G06F16/25;G06F16/22
代理公司: 北京鸿元知识产权代理有限公司 11327 代理人: 袁文婷;张娓娓
地址: 518000 广东省深圳市前海深港合作区前*** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 数据 划分 处理 方法 装置 电子设备 存储 介质
【权利要求书】:

1.一种数据划分处理方法,其特征在于,包括:

按照预设维度在hive中剥离待处理数据,并对所述待处理数据进行格式转换以形成特定格式文件;

通过所述hive的临时目录将所述特定格式文件置于预设的文件服务器中;

通过预设的前置业务系统从所述文件服务器中获取所述特定格式文件,并将所述特定格式文件保存至预设的业务服务器中以形成业务文件数据;其中,所述预设的前置业务系统与所述文件服务器预连接;

在所述业务服务器中对所述业务文件数据进行进行拆分处理以形成文件组,并对所述文件组进行另存储以完成数据划分处理。

2.如权利要求1所述的数据划分处理方法,其特征在于,所述按照预设维度在hive中剥离待处理数据,并对所述待处理数据进行格式转换以形成特定格式文件,包括:

按照预设维度在所述hive中捞取待处理数据,并对所述待处理数据进行标记;

根据所述标记,通过预设的导出语句将所述待处理数据从所述hive中剥离导出;

对从所述hive中剥离导出的所述待处理数据进行特定格式的格式设置;

基于所述特定格式对所述待处理数据进行格式转换以形成特定格式文件。

3.如权利要求1所述的数据划分处理方法,其特征在于,所述通过所述hive的临时目录将所述特定格式文件置于预设的文件服务器中,包括:

将所述特定格式文件分割为预设数量个子文件;

将所述子文件汇总为子文件集;

将所述子文件集置于所述hive的临时目录下以形成hive临时文件;

通过发送指令将所述hive临时文件发送至与所述临时目录预连接的文件服务器中。

4.如权利要求3所述的数据划分处理方法,其特征在于,所述将所述子文件汇总为子文件集,包括:

获取所述子文件所属的特定格式文件;

为所述特定格式文件命名一级署名,并获取所述特定格式文件所分割子文件的顺序;

根据所述分割子文件的顺序为所述子文件命名序号,并在所述序号前添加所属特定格式文件的一级署名以形成各个子文件的标注名称;

按照所述标注名称对所述子文件进行排列以形成子文件列表,并将所述子文件列表移至空白文件夹中以形成子文件集。

5.如权利要求4所述的数据划分处理方法,其特征在于,所述通过预设的前置业务系统在所述文件服务器中获取所述特定格式文件,并将所述特定格式文件保存至预设的业务服务器中以形成业务文件数据,包括:

将提前预设的前置业务系统与所述文件服务器相连接;其中,所述前置业务系统为单独的系统,用于读取所述文件服务器中的文件;

通过所述前置业务系统在所述文件服务器中获取所述子文件集;

对所述子文件集进行重整处理以还原为特定格式文件;

将所述特定格式文件传输至与所述文件服务器相连接的业务服务器中。

6.如权利要求5所述的数据划分处理方法,其特征在于,还包括对所述特定格式文件进行存储处理以形成业务文件;其中,所述对所述特定格式文件进行存储处理以形成业务文件,包括:

使所述业务服务器外接业务数据库;

通过转存插件将所述特定格式文件分批次存储至所述外接业务数据库中以形成业务文件。

7.如权利要求1所述的数据划分处理方法,其特征在于,所述在所述业务服务器中对所述业务文件数据进行进行拆分处理以形成文件组,并对所述文件组进行另存储以完成数据划分处理,包括:

对所述业务文件进行遍历读取以形成业务数据;

根据在所述业务数据库中预设置的时间字段为每条业务数据添加时间标识;

通过预设的数据捞取程序根据所述时间标识对所述业务数据进行分类别汇总,并将每一类别的业务数据对应至与所述类别相对应的数据捞取命令中;

为与所述数据捞取命令相对应的业务数据生成处理文件;

按照预先配置的数量对所述处理文件进行拆分以形成文件组;

对所述文件组进行另存储以完成数据划分处理。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安普惠企业管理有限公司,未经平安普惠企业管理有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202111092757.4/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top