[发明专利]并发线程数控制方法及装置

说明书

本申请实施例提供了一种并发线程数控制方法及装置，所述方法包括：根据任务负载信息确定目标并发线程数，若初始并发线程数与目标并发线程数的关系满足预设条件，则将线程池的并发线程数设置为目标并发线程数，通过目标并发线程数对应的线程，从任务队列中获取目标任务，并根据目标任务实现模型的训练。本申请通过根据当前负载情况来确定目标并发线程数的方式，提高了线程数设置的准确性与灵活性，进而提高了模型训练的效率。

技术领域

本申请实施例涉及数据处理技术领域，尤其涉及一种并发线程数控制方法及装置。

背景技术

随着模型的广泛应用，模型训练框架是模型训练领域的重要基础性组件，通过模型训练框架可以大幅降低开发和使用模型的复杂度。

现有技术中，在模型训练过程中会涉及到复杂的计算逻辑，训练框架通过并发线程的方式管理和执行训练过程中各种操作，因此，线程池中并发线程数的设置对模型的训练过程起着至关重要的作用。一般的，在设置线程数时，可以采用默认的线程数。

然而，采用默认的线程数时，一般采用处理器物理核或逻辑核的数量作为默认线程数，没有考虑具体训练任务的特点，降低了线程数设置的准确性与灵活性，进而影响了模型的训练效率。

发明内容

本申请实施例提供一种并发线程数控制方法及装置，以提高线程数设置的准确性与灵活性。

第一方面，本申请实施例提供一种并发线程数控制方法，包括：

根据任务负载信息确定目标并发线程数；

若初始并发线程数与所述目标并发线程数的关系满足预设条件，则将所述线程池的并发线程数设置为所述目标并发线程数；

通过所述目标并发线程数对应的线程，从任务队列中获取目标任务，并根据所述目标任务实现模型的训练。

可选的，所述根据任务负载信息确定目标并发线程数，包括：

获取所述初始并发线程数；

确定任务的平均等待时长，以及线程的平均空闲时长；

根据所述平均等待时长，以及所述平均空闲时长确定任务负载信息；

根据所述任务负载信息以及所述初始并发线程数确定目标并发线程数。

可选的，所述确定任务的平均等待时长，以及线程的平均空闲时长，包括：

根据所述任务队列中第一目标任务的等待时长，以及至少一第二目标任务的等待时长确定任务的平均等待时长，其中，所述第一目标任务为所述任务队列中未被处理的，且等待时间最长的任务，所述第二目标任务为所述任务队列中已经被处理的任务；

根据线程池中每个空闲线程的空闲时长确定线程的平均空闲时长。

可选的，所述根据所述平均等待时长，以及所述平均空闲时长确定任务负载信息，包括：

根据所述平均等待时长，以及预设的平均等待时长阈值确定任务等待时长因子；

根据所述平均空闲时长，以及预设的平均空闲时长阈值确定线程空闲时长因子；

根据所述任务等待时长因子以及所述线程空闲时长因子确定任务负载信息。

可选的，所述根据所述平均等待时长，以及预设的平均等待时长阈值确定任务等待时长因子，包括：

若所述平均等待时长小于所述平均等待时长阈值，则确定所述任务等待时长因子为1；

若所述平均等待时长大于或等于所述平均等待时长阈值，则确定所述任务等待时长因子为所述平均等待时长与所述平均等待时长阈值的比值；