[发明专利]一种显存数据处理方法、装置、电子设备及存储介质

权利要求书

1.一种显存数据处理方法，其特征在于，包括：

获取目标终端在训练模型过程中的显存状态数据；

基于所述显存状态数据，确定所述目标终端在训练模型过程中的各个显存块的使用情况；所述显存块的使用情况包括所述显存块的显存容量以及所述显存块的实际使用显存；

基于所述显存块的使用情况，生成并展示用于表征所述目标终端的显存碎片分布情况的第一统计图表。

2.根据权利要求1所述的方法，其特征在于，通过以下步骤生成所述第一统计图表：

基于各个显存块对应的实际使用显存以及所述显存块的显存容量之间的第一比值，对所述显存块进行分类，得到多组显存块集合；

基于各组显存块集合对应的第一比值，以及所述显存块集合中的显存块总数，生成各组显存块集合的统计信息；

基于各组显存块集合的统计信息，生成所述第一统计图表。

3.根据权利要求2所述的方法，其特征在于，所述方法还包括：

响应于针对所述第一统计图表对应的第一排序按钮的触发操作，确定所述第一排序按钮对应的第一目标数据；所述第一目标数据包括所述显存块集合对应的第一比值以及显存块集合对应的所述显存块总数；

按照所述第一排序按钮对应的排序规则，对所述第一目标数据进行排序，并基于所述第一目标数据的排序结果，更新所述第一统计图表中的各个显存块集合的统计信息的排列顺序。

4.根据权利要求1至3任一所述的方法，其特征在于，所述方法还包括：

基于所述第一统计图表，确定各个显存块集合中存在的显存碎片数量；

基于各个显存块集合的显存碎片数量、以及所述显存块集合对应的显存容量，确定各个显存容量对应所述显存碎片数量；

基于各个显存容量对应的所述显存碎片数量，生成并展示第二统计图表。

5.根据权利要求4所述的方法，其特征在于，所述方法还包括：

响应于针对所述第二统计图表对应的第二排序按钮的触发操作，确定所述第二排序按钮对应的第二目标数据；所述第二目标数据包括所述显存容量以及显存容量对应的显存碎片数量；

按照所述第二排序按钮对应的排序规则，对所述第二目标数据进行排序，并基于所述第二目标数据的排序结果，更新所述第二统计图表中的各个显存容量对应的所述显存碎片数量的排列顺序。

6.根据权利要求4所述的方法，其特征在于，所述方法还包括：

基于所述显存状态数据，确定所述目标终端的多个显存分配接口的调用次数；

基于所述显存分配接口的调用次数，生成并展示所述显存分配接口的调用情况的第三统计图表。

7.根据权利要求6所述的方法，其特征在于，所述方法还包括：

基于所述第一统计图表、所述第二统计图表以及所述第三统计图表，调整所述目标终端在训练模型过程中的显存分配策略。

8.根据权利要求1所述的方法，其特征在于，所述显存状态数据包括所述目标终端对应的多个显存分配接口的调用记录。

9.一种显存数据处理装置，其特征在于，包括：

获取模块，用于获取目标终端在训练模型过程中的显存状态数据；

解析模块，用于基于所述显存状态数据，确定所述目标终端在训练模型过程中的各个显存块的使用情况；所述显存块的使用情况包括所述显存块的显存容量以及所述显存块的实际使用显存；

可视化模块，用于基于所述显存块的使用情况，生成并展示用于表征所述目标终端的显存碎片分布情况的第一统计图表。

10.一种电子设备，其特征在于，包括：处理器、存储器，所述存储器存储有所述处理器可执行的机器可读指令，所述处理器用于执行所述存储器中存储的机器可读指令，所述机器可读指令被所述处理器执行时，所述处理器执行如权利要求1至8任一项所述的显存数据处理方法的步骤。

11.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被电子设备运行时，所述电子设备执行如权利要求1至8任意一项所述的显存数据处理方法的步骤。