[发明专利]一种数据处理方法、装置、电子设备及存储介质

说明书

本发明公开了一种数据处理方法、装置、电子设备及存储介质，包括：通过多个业务系统将明文数据写入至明文表中，并通过全增量转换平台将明文表中的明文数据，转换为密文表中的密文数据；通过应用系统将密文数据写入至密文表中，并通过全增量转换平台将密文表中的密文数据，反向转换为明文表中的明文数据，以使报表分析系统以及大数据中心对明文数据进行读取；通过应用系统将密文数据写入至密文表中，并通过全增量转换平台将密文表中的密文数据按照预设秘钥转换后，传输至大数据中心和报表分析系统。本发明实施例的技术方案可以保证数据时效性，降低改造成本以及对数据库性能的影响，提高数据处理结果的可靠性。

技术领域

本发明涉及计算机技术领域，尤其涉及一种数据处理方法、装置、电子设备及存储介质。

背景技术

随着互联网技术的发展，网络中的信息数据已经呈指数级增长的趋势，为了提高数据获取效率，多个业务系统可以通过大数据中心共享数据。通用的数据共享方式可以如图1a所示，应用系统(包括移动端服务和PC端服务)可以将读取到的业务数据写入业务数据库中的明文表。报表分析系统、大数据中心通过只读账号直连业务数据库，然后采用增量抽取的方式读取明文表数据。

上述数据共享方式中，由于明文表中可能存在敏感数据，由此导致业务数据库存在数据安全风险。为了解决上述问题，现有技术中通常使用分布式定时任务完成数据加密存储以及传输等过程，即基于分布式任务调度平台xxl-job新增加密定时任务，然后通过update_time字段增量读取明文表数据或密文表数据。

但是，现有技术中存在以下技术问题：数据时效性差，定时任务增量明密文转换、传输频率为15分钟/次，不能满足实时性要求高的场景；影响源数据库性能，定时任务通过select语句从数据库增量查询数据时，会对数据库产生大量突发的查询流量；数据错漏风险高，定时任务通过update_time字段增量查询数据时，极易因应用系统异常插入update_time字段或者定时任务自行维护savepoint异常导致数据错漏；改造成本高，现有技术中需要为每个数据表单独梳理制定checkpoint定制化改造。

发明内容

本发明提供了一种数据处理方法、装置、电子设备及存储介质，可以保证数据时效性，降低改造成本以及对数据库性能的影响，提高数据处理结果的可靠性。

根据本发明的一方面，提供了一种数据处理方法，包括：

通过多个业务系统将对应的明文数据写入至明文表中，并通过全增量转换平台将所述明文表中的明文数据，转换为密文表中的密文数据；

其中，所述多个业务系统包括应用系统、报表分析系统以及大数据中心；

通过应用系统将对应的密文数据写入至密文表中，并通过全增量转换平台将密文表中的密文数据，反向转换为明文表中的明文数据，以使报表分析系统以及大数据中心对所述明文数据进行读取；

通过应用系统将对应的密文数据写入至密文表中，并通过全增量转换平台将密文表中的密文数据按照预设秘钥转换后，传输至大数据中心和报表分析系统。

根据本发明的另一方面，提供了一种数据处理装置，所述装置包括：

明文转换模块，用于通过多个业务系统将对应的明文数据写入至明文表中，并通过全增量转换平台将所述明文表中的明文数据，转换为密文表中的密文数据；

其中，所述多个业务系统包括应用系统、报表分析系统以及大数据中心；

密文转换模块，用于通过应用系统将对应的密文数据写入至密文表中，并通过全增量转换平台将密文表中的密文数据，反向转换为明文表中的明文数据，以使报表分析系统以及大数据中心对所述明文数据进行读取；

密文传输模块，用于通过应用系统将对应的密文数据写入至密文表中，并通过全增量转换平台将密文表中的密文数据按照预设秘钥转换后，传输至大数据中心和报表分析系统。