[发明专利]一种显存数据处理方法、装置、电子设备及存储介质

说明书

本公开提供了一种显存数据处理方法、装置、电子设备及存储介质，其中，该方法包括：获取目标终端在训练模型过程中的显存状态数据；基于所述显存状态数据，确定所述目标终端在训练模型过程中的各个显存块的使用情况；所述显存块的使用情况包括所述显存块的显存容量以及所述显存块的实际使用显存；基于所述显存块的使用情况，生成并展示用于表征所述目标终端的显存碎片分布情况的第一统计图表。

技术领域

本公开涉及计算机技术领域，具体而言，涉及一种显存数据处理方法、装置、电子设备及存储介质。

背景技术

显存是指图形处理器(Graphics Processing Unit，GPU)的内存，在机器模型的训练过程中，终端的显存主要用于存储模型自身的参数，以及计算过程中产生的激活值。在存储过程中，需要从显存中划分出一块显存块，将划分的显存块分配给需要存储的数据，随着机器模型的数据量和模型结构的不断增大，需要存储到显存的数据越来越多，导致存储空间有限的显存容量紧张，训练过程中容易出现显存不足的错误。

为了在显存容量有限的情况下存储更多的数据，可以通过减少显存中的显存碎片方式实现，为了减少显存碎片，需要了解显存碎片的分布情况，但显存碎片的分布情况通常是由一些显存数据间接反映的，无法直观的展示。

发明内容

本公开实施例至少提供一种显存数据处理方法、装置、电子设备及存储介质。

第一方面，本公开实施例提供了一种显存数据处理方法，包括：

获取目标终端在训练模型过程中的显存状态数据；

基于所述显存状态数据，确定所述目标终端在训练模型过程中的各个显存块的使用情况；所述显存块的使用情况包括所述显存块的显存容量以及所述显存块的实际使用显存；

基于所述显存块的使用情况，生成并展示用于表征所述目标终端的显存碎片分布情况的第一统计图表。

基于上述方法，基于训练模型过程中的显存状态数据，确定各个显存块的使用情况，在基于显存块的使用情况生成第一统计图表，从而实现显存碎片分布情况的可视化；这种方式下，可以将各个显存块的使用情况转换为目标终端的显存碎片的分布情况，并将其展示，便于用户查看。

一种可选的实施方式中，通过以下步骤生成所述第一统计图表：

基于各个显存块对应的实际使用显存以及所述显存块的显存容量之间的第一比值，对所述显存块进行分类，得到多组显存块集合；

基于各组显存块集合对应的第一比值，以及所述显存块集合中的显存块总数，生成各组显存块集合的统计信息；

基于各组显存块集合的统计信息，生成所述第一统计图表。

该实施方式，通过显存块集合中各个显存块的实际使用显存与显存容量之间的第一比值，来表示显存碎片，同时利用显存块集合的显存块总数来表示显存碎片的出现频率，利用第一比值及其对应的显存块总数生成各组显存块集合的统计信息，从而实现利用显存块的使用情况表示显存碎片分布情况。

一种可选的实施方式中，所述方法还包括：

响应于针对所述第一统计图表对应的第一排序按钮的触发操作，确定所述第一排序按钮对应的第一目标数据；所述第一目标数据包括所述显存块集合对应的第一比值以及显存块集合对应的所述显存块总数；

按照所述第一排序按钮对应的排序规则，对所述第一目标数据进行排序，并基于所述第一目标数据的排序结果，更新所述第一统计图表中的各个显存块集合的统计信息的排列顺序。

该实施方式中，可以利用部署的第一排序按钮更改第一统计图表中的数据排列顺序，使第一统计图表的展示方式更符合用户的需求，便于用户阅读。

一种可选的实施方式中，所述方法还包括：