[发明专利]一种在线图像识别服务的扩缩容方法及相关装置

权利要求书

1.一种在线图像识别服务的扩缩容方法，其特征在于，所述方法包括：

对在线图像识别服务的待处理图像的数量进行监测，基于监测到的所述待处理图像的数量确定执行预测任务所需的设备资源量；

基于预设转换关系确定所述待处理图像的数量在容器管理系统中对应的预设监控指标；其中，所述容器管理系统用于对所述在线图像识别服务持有的容器进行管理；每一容器内封装有图形处理器资源，所述容器为在线图像识别服务持有资源量的分配单位，所述容器的逻辑封装用于拦截对统一计算设备架构库的应用程序编程接口的调用；

根据所述预设监控指标控制所述容器管理系统对所述在线图像识别服务持有的容器进行扩缩容操作，以使扩缩容后的容器所对应的持有资源量满足所述设备资源量；根据所述持有资源量执行所述预测任务；

其中，执行扩容操作时，从资源集群的实体设备卡中划分出与目标资源量相同的资源，对所述资源进行容器封装以构建虚拟设备卡；所述目标资源量是根据所述设备资源量和所述持有资源量确定的；

执行缩容操作时，对所述在线图像识别服务当前持有的容器执行预设删除操作，以使所述在线图像识别服务的响应时间处于预设时间范围内。

2.根据权利要求1所述的方法，其特征在于，所述基于监测到的所述待处理图像的数量确定执行预测任务所需的设备资源量，包括：

获取所述预测任务的延时时长以及图像处理器的处理速率；

根据所述待处理图像的数量、所述延时时长以及所述处理速率确定所述设备资源量。

3.根据权利要求1所述的方法，其特征在于，所述基于预设转换关系确定所述待处理图像的数量在容器管理系统中对应的预设监控指标，包括：

若所述待处理图像的数量大于第一监控阈值，则确定所述待处理图像的数量对应于表征执行扩容操作的预设监控指标；

若所述待处理图像的数量小于第二监控阈值，则确定所述待处理图像的数量对应于表征执行缩容操作的预设监控指标；其中，所述第二监控阈值小于所述第一监控阈值；

若所述待处理图像的数量处于所述第一监控阈值和所述第二监控阈值之间，则确定所述待处理图像的数量对应于表征无需执行扩缩容操作的预设监控指标。

4.根据权利要求1所述的方法，其特征在于，所述从资源集群的实体设备卡中划分出与目标资源量相同的虚拟资源之前，所述方法还包括：

对所述资源集群进行检测，获取满足所述设备资源量的实体设备卡；

所述从资源集群的实体设备卡中划分出与目标资源量相同的图形处理器资源，对所述图形处理器资源进行容器封装以构建虚拟设备卡，包括：

选取图形处理资源最少的实体设备卡作为目标实体设备卡，从所述目标实体设备卡中划分出与所述目标资源量相同的图形处理器资源；

对所述图形处理器资源进行容器封装，将封装的容器作为所述虚拟设备卡。

5.根据权利要求4所述的方法，其特征在于，所述方法还包括：

对所述资源集群进行检测时，若未检测到所述资源集群中存在满足所述设备资源量的实体设备卡，则基于预设时间间隔对所述资源集群执行预设次数的资源重检；

执行所述资源重检过程中，若检测到满足所述设备资源量的实体设备卡，则选取图形处理资源最少的实体设备卡作为所述目标实体设备卡；

若未检测到所述资源集群中存在满足所述设备资源量的实体设备卡，则输出表征当前无可用资源的提示，并结束本次扩容任务。

6.根据权利要求1所述的方法，其特征在于，所述对所述在线图像识别服务当前持有的容器执行预设删除操作，以使所述在线图像识别服务的响应时间处于预设时间范围内，包括：

确定每一容器的图形处理器资源的资源量，将所述资源量最小的容器作为待处理容器；

删除所述待处理容器，并监测在线图像识别服务的响应时间；

若所述响应时间未处于所述预设时间范围内，则从剩余容器中重新选取所述待处理容器，直至所述响应时间处于所述预设时间范围内，停止所述预设删除操作。

7.根据权利要求1-6中任一所述的方法，其特征在于，所述待处理图像的数量是根据预先部署在所述在线图像识别服务的拦截器或过滤器确定的。