[发明专利]GPU设备监控装置、GPU设备监控方法、设备及存储介质

说明书

本申请公开了一种GPU设备监控装置、GPU设备监控方法、设备及存储介质，涉及计算机技术领域，包括：部署于安装有GPU设备的主机上的数据采集模块，用于采集包含所述主机上的各所述GPU设备的第一使用情况数据和各容器使用所述GPU设备的第二使用情况数据的目标数据；数据收集存储模块，用于拉取所述数据采集模块采集到的所述目标数据，并为所述目标数据添加相应的时间戳以将所述目标数据存储为时间序列数据；数据展示模块，用于提供相应的可视化界面，并通过所述可视化界面将所述时间序列数据以图表的形式进行展示。本申请中的GPU设备监控装置能够将每台主机上GPU的使用情况按照时间序列进行存储，并提供细粒度的数据展示。

技术领域

本发明涉及计算机技术领域，特别涉及一种GPU设备监控装置、GPU设备监控方法、设备及存储介质。

背景技术

随着时代的发展，社会朝着数字化、智能化转型，算力，即计算能力成为一个社会发展程度的重要指标，以前由于数据量小，计算简单，CPU(Central Processing Unit，中央处理器)为主要的计算单元可以满足需求，但是随着数据规模的不断攀升，CPU作为通用计算设计的芯片，在处理大型的科学计算分析时会消耗较多时间。因此，如GPU(GraphicsProcessing Unit，图形处理器)、FPGA(Field-Programmable Gate Array，现场可编程门阵列)等的一些专用异构芯片应运而生，这些专用异构芯片的计算速度是CPU的很多倍，专用计算芯片使得计算速度大大加快，其中，异构计算卡通过PCI(Peripheral ComponentInterconnect，外设组件互连标准)接口与计算机主线相连，作为一个独立设备，能够通过驱动与操作系统进交互，使得用户开发的程序可直接使用相关设备进行计算，大大提高了程序执行速度。

目前，厂商在管理监控自己的设备时只提供了一些操作系统层面的管理接口及整个GPU的实时使用情况，但是随着云计算的发展，用户为了更方便的运维需要，很多的用户开始在容器平台上使用GPU设备，多个容器共享一个设备，导致用户无法知道某个容器使用GPU设备的情况，再一个用户需要登录到具体的主机使用设备厂商提供的工具进行查询，并且只能查询实时值，当集群规模很大时，很难进行使用情况的监测。

发明内容

有鉴于此，本发明的目的在于提供一种GPU设备监控装置、GPU设备监控方法、设备及存储介质，能够将每台主机上GPU的使用情况按照时间序列进行存储，并提供细粒度的数据展示。其具体方案如下：

第一方面，本申请公开了一种GPU设备监控装置，包括：

部署于安装有GPU设备的主机上的数据采集模块，用于采集包含所述主机上的各所述GPU设备的第一使用情况数据和各容器使用所述GPU设备的第二使用情况数据的目标数据

数据收集存储模块，用于拉取所述数据采集模块采集到的所述目标数据，并为所述目标数据添加相应的时间戳以将所述目标数据存储为时间序列数据；

数据展示模块，用于提供相应的可视化界面，并通过所述可视化界面将所述时间序列数据以图表的形式进行展示。

可选的，所述数据采集模块，用于周期性获取所述主机上的设备信息；其中，所述设备信息包含所述主机的GPU设备型号和GPU标识号。

可选的，所述数据采集模块，用于通过调用不同厂商提供的管理工具采集所述主机上的各所述GPU设备的使用率、显存大小和显存使用情况以确定所述主机上的各所述GPU设备的第一使用情况数据，并通过调用厂商设备的进程信息采集包含各进程的GPU使用量和显存使用量以确定各容器使用所述GPU设备的第二使用情况数据。

可选的，所述数据采集模块，还用于规范所述目标数据的数据存储格式。

可选的，所述数据采集模块，还用于提供数据HTTP接口；