[发明专利]业务数据处理方法、装置、计算机设备和存储介质有效
申请号: | 202010434794.8 | 申请日: | 2020-05-21 |
公开(公告)号: | CN111625583B | 公开(公告)日: | 2022-07-29 |
发明(设计)人: | 梁卫宁;唐桂坤;周钰书;唐文彬;张剑锋;赵永国;刘森;黎晚晴;陈玲娜 | 申请(专利权)人: | 广西电网有限责任公司;南方电网数字电网研究院有限公司 |
主分类号: | G06F16/25 | 分类号: | G06F16/25;G06Q50/06 |
代理公司: | 华进联合专利商标代理有限公司 44224 | 代理人: | 黄恕 |
地址: | 530023 广西*** | 国省代码: | 广西;45 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 业务 数据处理 方法 装置 计算机 设备 存储 介质 | ||
本申请涉及一种业务数据处理方法、装置、计算机设备和存储介质。所述方法包括:通过获取业务需求数据;基于预设第一Kafka数据通道,根据业务需求数据访问外部业务数据平台,获取业务系统的待处理业务数据;基于预设第二Kafka数据通道,获取数据采集终端上传的实时业务数据,并查找与待处理业务数据对应的目标实时业务数据;根据目标实时业务数据以及待处理业务数据,获取数据处理结果。本申请通过Kafka数据解耦特性来进行数据传输,可以有效提高业务需求处理过程中,跨系统处理的数据处理效率。
技术领域
本申请涉及计算机技术领域,特别是涉及一种业务数据处理方法、装置、计算机设备和存储介质。
背景技术
随着信息技术和智能电网的发展,电力企业对于信息资源共享与数据价值发现等技术的需求不断激增。智能变电站、智能电表、在线监测系统、现场移动检修系统、测控一体化系统等一大批服务应用系统的广泛建成,使得企业产生和积累了海量结构多样、来源复杂、规模巨大、系统独立的数据资源,造成企业跨系统数据集成与共享难度加大,直接影响数据内在知识价值发现,降低电网运营审计效率。
当前进行跨系统数据处理主要依托于系统集成,系统集成的实现方式主要是通过数据分析平台设置不同的数据源,将各自系统的数据源均可通过数据分析平台实现展示查看,最后通过数据分析平台设置表间的勾稽关系,实现跨系统数据处理展示。
当前的数据集成的方法不支持数据解耦,以营销与计量自动化跨域场景为例,当营销系统或计量自动化系统其中一个升级造成拓展或修改了数据处理过程,将无法实时获取和输出正确的成果数据。此时需要重新进行数据采集和处理,才能更新及展示实时结果数据,在这种情况下数据处理的效率会受到一定影响。
发明内容
基于此,有必要针对上述技术问题,提供一种能够能有效提高跨系统数据处理效率的业务数据处理方法、装置、计算机设备和存储介质。
一种业务数据处理方法,所述方法包括:
获取业务需求数据;
基于预设第一Kafka数据通道,根据所述业务需求数据访问外部业务数据平台,获取业务系统的待处理业务数据;
基于预设第二Kafka数据通道,获取数据采集终端上传的实时业务数据,并查找与所述待处理业务数据对应的目标实时业务数据;
根据所述目标实时业务数据以及所述待处理业务数据,获取数据处理结果。
在其中一个实施例中,所述基于预设第二Kafka数据通道,获取数据采集终端上传的实时业务数据,并查找与所述待处理业务数据对应的目标实时业务数据之前,还包括:
基于Kafka架构构建与外部业务数据平台的预设第一Kafka通道;
基于Kafka架构构建与数据采集终端的预设第二Kafka数据通道。
在其中一个实施例中,所述基于预设第一Kafka数据通道,根据所述业务需求数据访问外部业务数据平台,获取业务系统的待处理业务数据之前,还包括:
基于所述预设第一Kafka通道构建第一Kafka消息队列;
所述基于预设第一Kafka数据通道,根据所述业务需求数据访问外部业务数据平台获取业务系统的待处理业务数据包括:
通过所述第一Kafka消息队列,以异步方式根据所述业务需求数据访问外部业务数据平台获取业务系统的待处理业务数据。
在其中一个实施例中,所述待处理业务数据包括通过预设第三Kafka消息队列,以ETL数据仓库技术以及网络服务技术从业务系统采集的结构化数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广西电网有限责任公司;南方电网数字电网研究院有限公司,未经广西电网有限责任公司;南方电网数字电网研究院有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010434794.8/2.html,转载请声明来源钻瓜专利网。