[发明专利]机器学习模型服务化的方法、设备、存储介质及程序产品

说明书

本公开提供了机器学习模型服务化的方法、设备、存储介质及程序产品，涉及人工智能领域，具体涉及计算机视觉和深度学习技术，具体可用于基础架构场景下。具体实现方案为：服务框架包括使用动态编程语言实现的服务模块，以及使用静态编程语言实现的模型处理模块，通过动态编译语言实现的服务模块实现接收数据、数据预处理数据后处理、返回结果等上层功能，通过静态编程语言实现的模型处理模块实现机器学习模型相关的鉴权等功能，既方便服务的开发，也保证了机器学习模型相关数据的安全，降低数据泄露的风险，提高数据安全性，同时缩短开发周期、提高开发效率。

技术领域

本公开涉及人工智能领域，具体涉及计算机视觉和深度学习技术，具体可用于基础架构场景下，尤其涉及一种机器学习模型服务化的方法、设备、存储介质及程序产品。

背景技术

机器学习的模型训练通常是用的python等动态编程语言，将训练好的机器学习模型服务化，也即是将训练号的机器学习模型封装成HTTP服务上线时，为了性能、安全、加密等的功能需要使用C++等静态编译语言对模型进行封装。但是，使用C++等静态语言框架将训练好的模型封装部署为HTTP服务，开发成本高、服务更新迭代慢、开发效率低。

发明内容

本公开提供了一种机器学习模型服务化的方法、设备、存储介质及程序产品。

根据本公开的第一方面，提供了一种机器学习模型服务化的方法，包括：

调用服务框架中使用动态编程语言实现的服务模块，根据服务请求，确定需要使用的机器学习模型和所述服务请求包含的输入数据；

调用所述服务框架中使用静态编程语言实现的模型处理模块，在对所述服务模块鉴权通过后，根据所述输入数据，使用所述机器学习模型进行数据处理，得到处理结果；

通过所述服务模块输出所述处理结果。

根据本公开的第二方面，提供了一种机器学习模型服务化的设备，包括：

数据获取模块，用于调用服务框架中使用动态编程语言实现的服务模块，根据服务请求，确定需要使用的机器学习模型和所述服务请求包含的输入数据；

机器学习数据处理模块，用于调用所述服务框架中使用静态编程语言实现的模型处理模块，在对所述服务模块鉴权通过后，根据所述输入数据，使用所述机器学习模型进行数据处理，得到处理结果；

结果返回模块，用于通过所述服务模块输出所述处理结果。

根据本公开的第三方面，提供了一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行第一方面所述的方法。

根据本公开的第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行第一方面所述的方法。

根据本公开的第五方面，提供了一种计算机程序产品，所述计算机程序产品包括：计算机程序，所述计算机程序存储在可读存储介质中，电子设备的至少一个处理器可以从所述可读存储介质读取所述计算机程序，所述至少一个处理器执行所述计算机程序使得电子设备执行第一方面所述的方法。

根据本公开的技术在保证机器学习模型及相关数据安全的同时，提高了机器学习模型服务的开发效率。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明