[发明专利]一种分布式边缘融合算力部署系统

权利要求书

1.一种分布式边缘融合算力部署系统，其特征在于，包括资源管理器、管理单元、算力单元和边缘设备，所述资源管理器用以监控和指派算力单元的运行状态，并分配和回收空闲的算力单元；所述管理单元用以监控各类设备的运行状态，调度算力和监控资源向对应设备部署和管理任务，并对外提供服务平台；所述算力单元用以根据资源管理器的指令转换工作状态，并根据管理单元指令接收任务；所述边缘设备用以控制内网设备并进行指令转译；所述管理单元管理除未分配算力单元之外的全部框架内资源，根据外部任务设定，调度和编排计算任务，并展示可视化控制台，同时对外提供OpenAPI接口；所述管理单元包括管理任务子系统、管理Web子系统、管理OpenAPI子系统、管理边缘设备子系统、管理计算资源子系统和管理引导子系统，其中，管理任务子系统用于管理全局任务部署，并向对应设备部署相关任务，不参与任务计算；

管理Web子系统用于提供可视化的Web操作页面；

管理OpenAPI子系统提供框架的API接口，用于上层应用开发；

管理边缘设备子系统用于管理边缘设备以及对应IPC的状态，发送控制指令；

管理计算资源子系统用于管理已分配可用算力单元的状态，根据空闲算力单元比例动态申请或释放已分配算力单元；

管理引导子系统用于为边缘设备提供引导信息，包括网络状态、管理单元和任务状态。

2.如权利要求1所述的一种分布式边缘融合算力部署系统，其特征在于，还包括存储单元，所述存储单元用以进行数据存储，包括模型、图像和推理结果。

3.如权利要求2所述的一种分布式边缘融合算力部署系统，其特征在于，所述资源管理器对接算力单元和管理单元，接收算力单元的注册请求，并分配初始状态。

4.如权利要求2所述的一种分布式边缘融合算力部署系统，其特征在于，所述算力单元包括三种运行状态：空闲、主从和去中心化；在空闲模式下，算力单元处于待机状态，不参与任务分配；在主从模式下，算力单元根据主节点指令进行计算或向从节点部署计算；在去中心化模式下，算力单元根据DRCCP通讯协议进行计算。

5.如权利要求4所述的一种分布式边缘融合算力部署系统，其特征在于，所述算力单元包括算力Pow子系统、算力计算设备子系统、算力设备状态子系统、算力任务子系统和算力引擎子系统，其中，算力Pow子系统用于实现算力单元集群内通信，转发和协商推理任务；

算力计算设备子系统用于管理物理计算设备和推理引擎，为上层框架提供统一的硬件接口和模型处理方式；

算力设备状态子系统用于与资源管理器通信，确定运行状态；

算力任务子系统用于各类计算任务及其数据流的实际计算；

算力引擎子系统用于管理外部推理引擎，并提供外部推理引擎的外部接口。

6.如权利要求2所述的一种分布式边缘融合算力部署系统，其特征在于，所述边缘设备用以接收框架内部控制指令，并转译为实际设备的控制指令，并按需返回执行结果，同时，根据管理单元的任务部署，进行部分预处理工作。

7.如权利要求6所述的一种分布式边缘融合算力部署系统，其特征在于，所述边缘设备包括边缘IPC子系统、边缘Web子系统、边缘OpenAPI子系统和边缘任务子系统，其中，边缘IPC子系统用于发现和管理IPC，转译管理单元的控制指令，同时实时监控并上传IPC的视频流和截图数据以备任务使用；

边缘Web子系统用于提供简易的可视化Web展示页面；

边缘OpenAPI子系统提供边缘设备的API接口，用于上层应用开发；

边缘任务子系统用于进行原始数据的初步预处理，同时承接部分计算任务。

8.如权利要求2~7任意一项所述的一种分布式边缘融合算力部署系统，其特征在于，所述资源管理器、管理单元、算力单元、存储单元和边缘设备之间的通信均通过鉴权系统实现。