[发明专利]基于流处理框架文件管理方法以及系统在审
申请号: | 202210587575.2 | 申请日: | 2022-05-27 |
公开(公告)号: | CN114676095A | 公开(公告)日: | 2022-06-28 |
发明(设计)人: | 李森;秦元;张绍震;钱山;叶约翰 | 申请(专利权)人: | 恒生电子股份有限公司 |
主分类号: | G06F16/11 | 分类号: | G06F16/11;G06F16/13;G06F16/182 |
代理公司: | 北京智信禾专利代理有限公司 11637 | 代理人: | 李琪 |
地址: | 310053 浙江省杭州市*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 处理 框架 文件 管理 方法 以及 系统 | ||
1.一种基于流处理框架文件管理系统,其特征在于,包括:数据库和基于流处理框架的文件管理模块,
所述文件管理模块,被配置为确定基于流处理框架的待存储文件,其中,所述待存储文件中携带有初始文件存储目录;基于所述初始文件存储目录,在所述数据库中创建所述待存储文件的目标文件存储目录,并经由JDBC接口,将所述待存储文件存储至所述目标文件存储目录对应的存储位置,其中,所述数据库经由JDBC与所述文件管理模块通信连接。
2.根据权利要求1所述的基于流处理框架文件管理系统,其特征在于,所述文件管理模块,进一步被配置为:
经由所述JDBC接口,在所述数据库中创建所述待存储文件的文件存储表,其中,所述文件存储表包括文件名称字段、文件内容字段。
3.根据权利要求2所述的基于流处理框架文件管理系统,其特征在于,所述文件管理模块,进一步被配置为:
基于所述初始文件存储目录,在所述文件存储表的文件名称字段下创建所述待存储文件的目标文件存储目录。
4.根据权利要求2所述的基于流处理框架文件管理系统,其特征在于,所述文件管理模块,进一步被配置为:
对所述待存储文件进行二进制转化处理,获得所述待存储文件的目标文件内容;
经由所述JDBC接口,将所述目标文件内容写入所述目标文件存储目录对应的存储位置。
5.根据权利要求4所述的基于流处理框架文件管理系统,其特征在于,所述文件管理模块,进一步被配置为:
基于目标文件存储目录,在所述文件内容字段下确定目标存储位置,并经由所述JDBC接口,将所述目标文件内容存储至目标存储位置。
6.根据权利要求2所述的基于流处理框架文件管理系统,其特征在于,所述文件管理模块,进一步被配置为:
接收文件读取请求,其中,所述文件读取请求中携带有待读取文件的文件名称,所述待读取文件为基于流处理框架产生,并存储于数据库中;
基于所述待读取文件的文件名称,在所述数据库的文件存储表中确定目标读取位置;
经由所述JDBC接口,从所述目标读取位置中读取所述待读取文件。
7.根据权利要求6所述的基于流处理框架文件管理系统,其特征在于,所述文件管理模块,进一步被配置为:
基于所述待读取文件的文件名称,在所述文件存储表的文件名称字段下确定目标文件读取目录;
基于所述目标文件存储目录在所述文件内容字段下确定目标读取位置。
8.根据权利要求7所述的基于流处理框架文件管理系统,其特征在于,所述文件管理模块,进一步被配置为:
基于所述目标读取位置确定所述待读取文件的目标文件读取内容,其中,所述目标文件读取内容为对所述待读取文件进行二进制转化处理后获得;
经由所述JDBC接口,从所述目标读取位置中读取所述目标文件读取内容。
9.根据权利要求2所述的基于流处理框架文件管理系统,其特征在于,所述文件管理模块,进一步被配置为:
接收文件删除请求,基于所述文件删除请求中携带的待删除文件的文件名称,在所述数据库中确定所述待删除文件的目标文件位置;
经由所述JDBC接口,从所述目标文件位置中删除所述待删除文件。
10.根据权利要求9所述的基于流处理框架文件管理系统,其特征在于,所述文件管理模块,进一步被配置为:
基于所述文件删除请求中携带的待删除文件的文件名称,在所述数据库的文件名称字段下确定目标文件删除目录;
基于所述目标文件删除目录,在所述文件内容字段下确定目标文件位置。
11.根据权利要求10所述的基于流处理框架文件管理系统,其特征在于,所述待存储文件包括任务描述文件、任务执行文件以及检查点状态文件,其中,检查点状态文件用于保障任务故障恢复。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于恒生电子股份有限公司,未经恒生电子股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210587575.2/1.html,转载请声明来源钻瓜专利网。