[发明专利]模型热更新处理方法及其装置、设备、介质、产品

说明书

本申请公开一种模型热更新处理方法及其装置、设备、介质、产品，所述方法包括：响应作用于当前模型服务的新模型部署事件，获取新神经网络模型的模型版本号；根据预设的搜索字段转换规则，确定出模型版本号对应的模型版本搜索字段；维持当前模型服务中旧神经网络模型的运行，持续将历史业务数据输入至新神经网络模型中，将新神经网络模型输出的各新向量值对应存储至向量搜索服务的模型版本搜索字段中；将新神经网络模型输出的所有历史业务数据各自对应的新向量值存储至向量搜索服务后，下线旧神经网络模型，上线新神经网络模型以为当前模型服务提供推理功能。本申请在模型的热更新过程中实现新模型的向量数据刷新，使相关在线服务可快速投放使用。

技术领域

本申请涉及神经网络模型更新领域，尤其涉及一种模型热更新处理方法，此外还涉及该方法相应的装置、设备、非易失性存储介质以及计算机程序产品。

背景技术

现有的互联网平台中存在各类型的基于神经网络模型所构建的业务服务，例如，用于为用户提供智能客服的业务服务中一般存在用于语义推理的神经网络模型所对应的模型服务，用于为用户提供商品分类的业务服务中一般存在用于进行商品分类的神经网络模型所对应的模型服务，且随着神经网络的技术发展，各平台也会更新其业务服务中提供推理功能的神经网络模型，以提升基于神经网络模型构建的业务服务的业务处理效率，优化用户的使用体验。

但现有的平台更新业务服务中的神经网络模型时，常常需要暂停业务服务中旧版本的神经网络模型的运行，等待新版本的神经网络模型部署完成后，再上线新版本的神经网络模型以为所述业务服务提供推理服务，再这过程中，因业务服务需下线等待新模型的部署，将导致平台的用户无法使用该业务服务。

其次，虽然现有的平台也会使用热更新来更新业务服务中的神经网络模型，但为业务服务热更新新版本的神经网络模型后，新版本的神经网络模型因未持有与其对应的新特征向量，使业务服务更新模型后，无法为平台用户提供完整的服务，影响用户的使用体验。

鉴于现有的业务服务中神经网络模型更新所存在的问题，本申请人出于解决该问题的考虑做出相应的探索。

发明内容

本申请的目的在于满足用户需求而提供一种模型热更新处理方法，此外还涉及该方法相应的装置、设备、非易失性存储介质以及计算机程序产品。

为实现本申请的目的，采用如下技术方案：

适应本申请的目的而提出的一种模型热更新处理方法，包括如下步骤：

响应作用于当前模型服务的新模型部署事件，获取新部署的新神经网络模型所对应的模型版本号；

根据预设的搜索字段转换规则，确定出所述模型版本号所对应的模型版本搜索字段，所述模型版本搜索字段用于从向量搜索服务中搜索出相应模型版本号所对应的向量值；

维持当前模型服务中旧神经网络模型的运行以用于为输入的业务数据生成相应模型版本号的向量值对应存储至所述向量搜索服务中，持续将历史业务数据分别输入至所述新神经网络模型中，将该新神经网络模型分别输出的各新向量值对应存储至所述向量搜索服务的所述模型版本搜索字段中；

将所述新神经网络模型输出的所有历史业务数据各自对应的所述新向量值存储至所述向量搜索服务后，下线所述旧神经网络模型，并上线所述新神经网络模型以为当前模型服务提供推理功能。

进一步的实施例中，本方法包括如下前置步骤：

响应作用于所述向量搜索服务的版本设置事件，确定该版本设置事件所设置的模型版本数量；

生成数量与该模型版本数量所表征的数量相同的模型版本搜索字段，该些模型版本搜索字段各自表征其所对应的模型版本号；

将该些模型版本搜索字段存储至所述向量搜索服务中。

进一步的实施例中，本方法包括如下后置步骤：