[发明专利]金融数据处理方法、装置、设备及计算机可读存储介质在审
申请号: | 201910411302.0 | 申请日: | 2019-05-16 |
公开(公告)号: | CN110134516A | 公开(公告)日: | 2019-08-16 |
发明(设计)人: | 赵雄 | 申请(专利权)人: | 深圳前海微众银行股份有限公司 |
主分类号: | G06F9/50 | 分类号: | G06F9/50;G06Q40/00 |
代理公司: | 深圳市世纪恒程知识产权代理事务所 44287 | 代理人: | 胡海国 |
地址: | 518052 广东省深圳市南山*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 金融数据处理 数据处理请求 待处理数据 计算节点 计算机可读存储介质 目标账户 分布式计算框架 并行计算 金融机构 金融数据 时效性 业务端 核算 分配 | ||
1.一种金融数据处理方法,其特征在于,所述金融数据处理方法包括以下步骤:
若接收到针对目标账户的数据处理请求,获取所述目标账户的待处理数据;
基于所述待处理数据,在与所述数据处理请求对应的分布式计算框架中确定计算节点的数量;
将根据所述待处理数据生成的多个任务实例分别分配至多个所述计算节点,并启动多个所述计算节点并行计算,计算后得到与所述数据处理请求对应的处理结果。
2.如权利要求1所述的金融数据处理方法,其特征在于,所述若接收到针对目标账户的数据处理请求,获取所述目标账户的待处理数据的步骤包括:
若接收到针对目标账户的数据处理请求,获取所述目标账户对应的数据仓库工具Hive表;
基于预设的访问方式,访问所述Hive表对应的Hadoop分布式文件系统HDFS文件,获取所述目标账户的待处理数据。
3.如权利要求2所述的金融数据处理方法,其特征在于,所述基于预设的访问方式,访问所述Hive表对应的HDFS文件,获取所述目标账户的待处理数据的步骤包括:
根据所述Hive表对应的HDFS文件,确定与所述HDFS文件对应的访问进程的数量;
基于确定的若干个所述访问进程,访问所述HDFS文件以获取所述目标账户的待处理数据。
4.如权利要求1-3任一项所述的金融数据处理方法,其特征在于,所述基于所述待处理数据,在与所述数据处理请求对应的分布式计算框架中确定计算节点的数量的步骤包括:
获取所述待处理数据的目标数据量;
根据所述数据处理请求的类型,在与所述数据处理请求对应的分布式计算框架中设置每个计算节点的计算数据量阈值;
根据所述目标数据量和所述计算数据量阈值,确定与所述待处理数据对应的所述计算节点的数量。
5.如权利要求1-3任一项所述的金融数据处理方法,其特征在于,所述将根据所述待处理数据生成的多个任务实例分别分配至多个所述计算节点,并启动多个所述计算节点并行计算,计算后得到与所述数据处理请求对应的处理结果的步骤包括:
根据所述待处理数据生成多个任务实例,并将所述多个任务实例分别分配至多个所述计算节点;
基于所述计算节点,从内存数据库中调取与所述数据处理请求对应的规则配置参数;所述规则配置参数是由磁盘数据库导入至所述内存数据库的;
基于所述计算节点的所述任务实例和所述规则配置参数,启动多个所述计算节点并行计算,计算后得到与所述数据处理请求对应的处理结果。
6.如权利要求2所述的金融数据处理方法,其特征在于,所述将根据所述待处理数据生成的多个任务实例分别分配至多个所述计算节点,并启动多个所述计算节点并行计算,计算后得到与所述数据处理请求对应的处理结果的步骤之后还包括:
将所述处理结果保存至所述HDFS文件中,并更新所述Hive表,以使更新后的Hive表与包括所述处理结果的HDFS文件相对应。
7.如权利要求6所述的金融数据处理方法,其特征在于,所述将所述处理结果保存至所述HDFS文件中,并更新所述Hive表,以使更新后的Hive表与包括所述处理结果的HDFS文件相对应的步骤之后还包括:
基于预设的报表工具和所述更新后的Hive表,生成与所述目标账户对应的数据处理分析报表。
8.一种金融数据处理装置,其特征在于,所述金融数据处理装置包括:
获取模块,用于若接收到针对目标账户的数据处理请求,获取所述目标账户的待处理数据;
确定模块,用于基于所述待处理数据,在与所述数据处理请求对应的分布式计算框架中确定计算节点的数量;
处理模块,用于将根据所述待处理数据生成的多个任务实例分别分配至多个所述计算节点,并启动多个所述计算节点并行计算,计算后得到与所述数据处理请求对应的处理结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳前海微众银行股份有限公司,未经深圳前海微众银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910411302.0/1.html,转载请声明来源钻瓜专利网。