[发明专利]一种基于微容器云的边缘AI计算集群

权利要求书

1.一种基于边缘微容器云的边缘AI计算集群，其特征在于，边缘微容器云构建具体为：边缘AI计算硬件集群组装和检查完成后，首先确定边缘微容器云的管控节点、主节点、工作节点，具体为：选择一个移动设备作为边缘微容器云的管控节点；另外选择两个移动设备作为边缘微容器云主节点，然后将剩下的移动设备都设置为工作节点；然后由管控节点从总云下载安装边缘微容器云所需的基础环境安装包和镜像安装包并进行安装；

所述安装过程包括：

(1)管控节点对所有移动设备节点进行系统配置和微容器云环境配置；

(2)管控节点对移动设备节点安装微容器云所需的基础环境安装包；

(3)管控节点将镜像安装包自动复制到边缘微容器云主节点和其他工作节点；

(4)管控节点通过执行复制文件包里的脚本完成对边缘微容器云的安装部署；

(5)管控节点将边缘微容器集群注册到总云的容器云平台；

还包括AI计算集群构建：

管控节点从总云下载并安装AI计算集群运行环境镜像和基础算法模型镜像；并根据计算任务所需的计算资源确定容器模式：

若单个任务容器占用的CPU/GPU资源的使用率不足20％，且单个移动设备节点整体CPU/GPU计算资源利用率不足100％时，则在单个移动设备节点上部署一个或多个这样的任务容器；

若单个移动设备节点整体CPU/GPU计算资源使用率达到100％，也无法满足计算需求，则将多个移动设备节点虚拟化成一个超级容器，并将每个设备节点作为一个计算单位运行单个任务容器，然后进行分布式处理，并指定该超级容器中的某个移动设备节点完成该超级容器中所有移动设备节点计算后的结果进行合并；

最后管控节点将边缘微容器云的AI计算集群注册到总云的容器云平台上的人工智能总集群；

对跨区域之间移动物体的追踪，其分析结果数据按照区域和时间存到不同层的云上，总云存储全体分析后的数据；

各基站分别部署一个小集群，各区域分别部署一个小集群。

2.根据权利要求1所述的一种基于边缘微容器云的边缘AI计算集群，其特征在于，还包括多层级云架构，所述多层级云架构至少包括四层级云结构，所述四层级云结构从下至上依次为：边缘微容器云、基站小云、中云、总云，各层级云结构之间通过网络进行通信。

3.根据权利要求2所述的一种基于边缘微容器云的边缘AI计算集群，其特征在于，所述网络为5G通信网络或或4G网络或北斗通信网络或以太网网络或RDMA网络。

4.根据权利要求3所述的一种基于边缘微容器云的边缘AI计算集群，其特征在于，还包括：AI任务部署，总云根据边缘微容器云对应的计算任务画像，进行模型训练并计算容器需要的计算资源，然后由管控节点向边缘微容器云的主节点推送训练好的模型，然后由主节点根据计算任务的画像和边缘环境的画像及所需的边缘计算资源，自动向每个工作节点分派计算任务并发布训练好的模型，从而对计算任务实时并行处理。

5.根据权利要求4所述的一种基于边缘微容器云的边缘AI计算集群，其特征在于，当计算任务处理完成后，其执行结果除了保存在边缘微云外，同时还会将结果通过通信网络上传到上级云结构。

6.根据权利要求4所述的一种基于边缘微容器云的边缘AI计算集群，其特征在于，当模型更新时，由总云选择在边缘集群的工作负载处于最低时段时，将更新后的模型和相关的支持包一起推送到边缘微容器云的管控节点，由管控节点将更新后的模型和相关的支持包推送给主节点，然后由主节点自动完成其他工作节点上模型的更新。

7.根据权利要求5所述的一种基于边缘微容器云的边缘AI计算集群，其特征在于，还包括：还包括：总云定时监控AI计算集群中容器的整体资源使用情况，并根据负载的高低动态调整容器的副本数，以实现资源的自动伸缩，并将伸缩后的资源配置信息汇报给总云。