[发明专利]一种基于Flink框架的推理方法、装置及Flink服务系统在审
| 申请号: | 202111332326.0 | 申请日: | 2021-11-11 |
| 公开(公告)号: | CN114065946A | 公开(公告)日: | 2022-02-18 |
| 发明(设计)人: | 陈小龙;周利 | 申请(专利权)人: | 杭州海康威视数字技术股份有限公司 |
| 主分类号: | G06N20/00 | 分类号: | G06N20/00;G06N5/04;G06F16/22;G06F16/2455;H04L9/06 |
| 代理公司: | 北京柏杉松知识产权代理事务所(普通合伙) 11413 | 代理人: | 孟维娜;丁芸 |
| 地址: | 310051 浙*** | 国省代码: | 浙江;33 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 基于 flink 框架 推理 方法 装置 服务 系统 | ||
1.一种基于Flink框架的推理方法,其特征在于,应用于Flink服务系统,所述Flink服务系统包括第一消息子系统、第二消息子系统、多个Flink工作节点以及推理子系统,所述方法包括:
所述第一消息子系统获取待推理数据;并根据所述待推理数据在各个特征维度上的特征值,生成事实表;将所述事实表分区至各个所述Flink工作节点;
所述第二消息子系统获取模型数据;并根据所述模型数据,生成维表;将所述维表发送至各个所述Flink工作节点;
所述Flink工作节点合并所述第一消息子系统分区至所述Flink工作节点的事实表以及所述第二消息子系统发送至所述Flink工作节点的维表,得到合并表;
所述推理子系统根据所述合并表中模型数据与待推理数据之间的匹配关系,以SQL方式进行推理。
2.根据权利要求1所述的方法,其特征在于,所述第二消息子系统将所述维表发送至各个所述Flink工作节点,包括:
所述第二消息子系统将所述维表广播至每个所述Flink工作节点。
3.根据权利要求2所述的方法,其特征在于,所述第二消息子系统将所述维表广播至每个所述Flink工作节点,包括:
所述第二消息子系统通过分区转换算子将所述维表广播至每个所述Flink工作节点,其中,所述分区转换算子中被传入右侧维表算子以及广播分区器。
4.根据权利要求1所述的方法,其特征在于,所述方法还包括:
所述Flink工作节点根据所述合并表,确定各个所述待推理数据所匹配的模型数据;
所述推理子系统根据所述合并表中模型数据与待推理数据之间的匹配关系,以SQL方式进行推理,包括:
所述推理子系统针对每个所述待推理数据,加载所述待推理数据所匹配的模型数据;利用加载的模型数据对所述待推理数据进行推理。
5.根据权利要求4所述的方法,其特征在于,所述维表中包括比例维度;
所述推理子系统针对每个所述待推理数据,加载所述待推理数据所匹配的模型数据;利用加载的模型数据对所述待推理数据进行推理,包括:
所述推理子系统针对每个所述待推理数据,随机获取指示值,作为目标指示值;
所述推理子系统在所述待推理数据所匹配的所有模型数据中确定与所述目标指示值对应的目标模型数据,其中,所述模型数据对应的任一指示值被随机获取到的概率等于所述维表中所述模型数据对应的比例维度的取值;
所述推理子系统加载所述目标模型数据对所述待推理数据进行推理。
6.一种基于Flink框架的推理装置,其特征在于,应用于Flink服务系统,所述Flink服务系统包括第一消息子系统、第二消息子系统、多个Flink工作节点以及推理子系统,所述装置包括:
事实表模块,用于驱动所述第一消息子系统获取待推理数据;并根据所述待推理数据在各个特征维度上的特征值,生成事实表;将所述事实表分区至各个所述Flink工作节点;
维表模块,用于驱动所述第二消息子系统获取模型数据;并根据所述模型数据,生成维表;将所述维表发送至各个所述Flink工作节点;
合并模块,用于驱动所述Flink工作节点合并所述第一消息子系统分区至所述Flink工作节点的事实表以及所述第二消息子系统发送至所述Flink工作节点的维表,得到合并表;
推理模块,用于驱动所述推理子系统根据所述合并表中模型数据与待推理数据之间的匹配关系,以SQL方式进行推理。
7.根据权利要求6所述的装置,其特征在于,所述维表模块,具体用于驱动所述第二消息子系统将所述维表广播至每个所述Flink工作节点。
8.根据权利要求7所述的装置,其特征在于,所述维表模块,具体用于驱动所述第二消息子系统通过分区转换算子将所述维表广播至每个所述Flink工作节点,其中,所述分区转换算子中被传入右侧维表算子以及广播分区器。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州海康威视数字技术股份有限公司,未经杭州海康威视数字技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111332326.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种供电安全监控系统及方法
- 下一篇:一种机动目标航迹聚类方法及系统





