[发明专利]数据处理方法、装置、设备及存储介质

权利要求书

1.一种数据处理方法，应用于数据处理系统中的管理服务器；所述数据处理系统基于kubernetes集群构建，所述数据处理系统还包括多个最小调度单元pod；所述方法包括：

获取用户的数据处理请求；所述数据处理请求用于请求在目标时长内基于目标模型处理完待处理数据；

在已部署有所述目标模型的pod不满足所述数据处理请求的情况下，根据所述目标时长以及所述待处理数据的大小，确定目标每秒查询率qps；

基于所述目标qps，从所述多个pod的空闲pod中确定多个目标pod；所述多个目标pod用于部署所述目标模型，所述多个目标pod对应的所述目标模型的总qps大于或者等于所述目标qps；

基于所述多个目标pod处理所述待处理数据，得到处理结果。

2.根据权利要求1所述的数据处理方法，其中，所述基于所述目标qps，从所述多个pod的空闲pod中确定多个目标pod，包括：

获取所述目标模型的预设qps；

根据所述目标qps与所述预设qps的比值，确定目标数量；

从所述空闲pod中确定所述目标数量个pod作为所述多个目标pod。

3.根据权利要求1或2所述的数据处理方法，其中，所述空闲pod包括未部署所述目标模型的第一pod，和/或，部署有所述目标模型且所述目标模型处于空闲状态的第二pod。

4.根据权利要求3所述的数据处理方法，其中，所述数据处理系统还包括应用服务器和镜像仓库，所述应用服务器用于部署所述pod，所述镜像仓库存储有所述目标模型的目标镜像数据；

所述方法还包括：

在所述多个目标pod中存在未部署所述目标模型的第一pod的情况下，控制所述第一pod所在的所述应用服务器执行模型调度任务；所述模型调度任务包括从所述镜像仓库中获取所述目标镜像数据，以及基于所述目标镜像数据，在所述第一pod中部署目标模型。

5.根据权利要求4所述的数据处理方法，其中，所述控制所述第一pod所在的所述应用服务器执行模型调度任务，包括：

若所述管理服务器的任务队列中存在位于所述模型调度任务之前的预设任务，则在所述预设任务执行后，控制所述第一pod所在所述应用服务器开始执行所述模型调度任务。

6.根据权利要求1-5中任一项所述的数据处理方法，其中，所述已部署有所述目标模型的pod不满足所述数据处理请求，包括：在所述已部署有所述目标模型的pod中的所述目标模型处于空闲状态，且所述目标模型的预设qps小于所述目标qps。

7.根据权利要求1-6中任一项所述的数据处理方法，其中，所述已部署有所述目标模型的pod不满足所述数据处理请求，包括：剩余占用时长以及预设时长之和大于所述目标时长；其中，所述剩余占用时长为当所述已部署有所述目标模型的pod中的所述目标模型处于被占用状态时，所述目标模型处理完剩余数据所需要的时长；所述预设时长为所述目标模型单独处理所述待处理数据所需要的预设时长。

8.根据权利要求1-7中任一项所述的数据处理方法，所述方法还包括：

在所述基于所述多个目标pod处理所述待处理数据，得到处理结果之后，释放所述多个目标pod中的所述目标模型。

9.根据权利要求4-8中任一项所述的数据处理方法，其中，所述基于所述多个目标pod处理所述待处理数据，得到处理结果，包括：

基于所述目标数量，将所述待处理数据进行数据分段，得到多个待处理数据段；

将所述多个待处理数据段分别发送至对应的所述目标pod所在的所述应用服务器，以使得所述应用服务器控制所述目标pod基于所述目标模型对所述待处理数据段进行处理，得到子处理结果；

接收所述应用服务器发送的所述子处理结果，并将接收到的所述子处理结果合并，得到所述处理结果。