[发明专利]模型热更新处理方法及其装置、设备、介质、产品

权利要求书

1.一种模型热更新处理方法，其特征在于，包括如下步骤：

响应作用于当前模型服务的新模型部署事件，获取新部署的新神经网络模型所对应的模型版本号；

根据预设的搜索字段转换规则，确定出所述模型版本号所对应的模型版本搜索字段，所述模型版本搜索字段用于从向量搜索服务中搜索出相应模型版本号所对应的向量值；

维持当前模型服务中旧神经网络模型的运行以用于为输入的业务数据生成相应模型版本号的向量值对应存储至所述向量搜索服务中，持续将历史业务数据分别输入至所述新神经网络模型中，将该新神经网络模型分别输出的各新向量值对应存储至所述向量搜索服务的所述模型版本搜索字段中；

将所述新神经网络模型输出的所有历史业务数据各自对应的所述新向量值存储至所述向量搜索服务后，下线所述旧神经网络模型，并上线所述新神经网络模型以为当前模型服务提供推理功能。

2.根据权利要求1所述的方法，其特征在于，本方法包括如下前置步骤：

响应作用于所述向量搜索服务的版本设置事件，确定该版本设置事件所设置的模型版本数量；

生成数量与该模型版本数量所表征的数量相同的模型版本搜索字段，该些模型版本搜索字段各自表征其所对应的模型版本号；

将该些模型版本搜索字段存储至所述向量搜索服务中。

3.根据权利要求1所述的方法，其特征在于，本方法包括如下后置步骤：

响应作用于当前模型服务的模型版本回滚指令，确定该指令所包含的旧模型版本号；

根据所述旧模型版本号，获取模型存储空间中保留的旧神经网络模型；

将当前模型服务中当前上线的新神经网络模型回滚为所旧神经网络模型，以驱动当前模型服务根据所述旧模型版本号所对应的模型版本搜索字段搜索所述向量搜索服务中保留的旧向量值进行服务。

4.根据权利要求1所述的方法，其特征在于，所述根据预设的搜索字段转换规则，确定出所述模型版本号所对应的模型版本搜索字段的步骤中，包括：

根据所述向量搜索服务中存储的模型版本搜索字段的类型，确定该向量搜索服务中存在的模型版本数量；

计算出新神经网络模型的所述模型版本号除以所述模型版本数量的余数；

查询所述向量搜索服务中模型版本表征为所述余数的模型版本搜索字段，将该模型版本搜索字段与所述模型版本号相对应。

5.根据权利要求1所述的方法，其特征在于，所述持续将历史业务数据分别输入至所述新神经网络模型中，将该新神经网络模型分别输出的各新向量值对应存储至所述向量搜索服务的所述模型版本搜索字段中的步骤中，包括：

从业务数据库中获取所述历史业务数据，所述业务数据库中存储着与其业务相关联的业务数据，例如，智能客服业务数据或电商商品业务数据；

将所述历史业务数据输入至所述新神经网络模型中，驱动该新神经网络模型推理所述历史业务数据所对应的新向量值；

获取由所述新神经网络模型输出的所述新向量值，将该新向量值存储至所述向量搜索服务中所述模型版本搜索字段所对应的存储空间。

6.根据权利要求1所述的方法，其特征在于，所述下线所述旧神经网络模型，并上线所述新神经网络模型以为当前模型服务提供推理功能的步骤中，包括：

监听作用于所述新神经网络模型分别计算所有历史业务数据的计算事件，当监听到该新神经网络模型输出的所有历史业务数据各自对应的所述新向量值存储至所述向量搜索服务后，触发作用于该新神经网络模型的上线指令；

响应所述上线指令，停止当前模型服务中旧神经网络模型的运行，将所述新神经网络模型切换为上线状态以为当前模型服务提供推理功能。