[发明专利]引擎获取方法、装置以及计算机可读存储介质在审
| 申请号: | 202111558368.6 | 申请日: | 2021-12-16 |
| 公开(公告)号: | CN114265597A | 公开(公告)日: | 2022-04-01 |
| 发明(设计)人: | 缐多放 | 申请(专利权)人: | 江苏云从曦和人工智能有限公司 |
| 主分类号: | G06F8/61 | 分类号: | G06F8/61;H03M7/30 |
| 代理公司: | 北京瀚仁知识产权代理事务所(普通合伙) 11482 | 代理人: | 宋宝库;郭婷 |
| 地址: | 215021 江苏省苏州市苏州*** | 国省代码: | 江苏;32 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 引擎 获取 方法 装置 以及 计算机 可读 存储 介质 | ||
本发明涉及计算机处理技术领域,具体提供一种引擎获取方法、装置以及计算机可读存储介质,旨在解决合理部署引擎安装包、减少携带的数据单元的技术问题。为此目的,本发明的方法包括:一种引擎获取方法,其特征在于,方法包括:获取对引擎的请求;获取引擎的压缩包,引擎的压缩包中携带引擎对应的数据单元描述信息,数据单元描述信息中记录了引擎依赖的数据单元的信息;根据数据单元描述信息,获取数据单元的压缩包;使用引擎的压缩包和数据单元的压缩包,生成引擎的安装包;返回引擎的安装包,以响应请求。通过本发明,获取的引擎的安装包中没有与该引擎无关的其他数据单元,所以引擎的安装包的体积能够得到有效控制。
技术领域
本发明涉及计算机技术领域,具体提供一种引擎获取方法、装置以及计算机可读存储介质。
背景技术
在目前人工智能高速发展的大环境下,各类人工智能服务提供商都在积极推广自家的多样产品,相当一部分产品是通过私有化渠道铺展开来,这些产品所提供的核心应用能力通常是由不同的引擎及模型来实现。
引擎就是一套提供AI能力的应用程序。对于一个引擎来说它的存在形式通常由两部分组成,一部分称之为运行实体,就是应用程序存在的形式,可能是一个压缩包,可能是一个docker镜像,在运行的时候就去启动这个运行实体;另一部分就是一些配置文件,配置文件是运行实体启动时需要读取的文件,它是用来告诉应用程序一些基本配置,使得应用程序按照预期的方式运行。这两部分通常是按照一定的目录结构存放在一起,再将这个目录打成一个压缩包,那么这个压缩包就是引擎的安装包,可以拿出去部署使用的。通常一个引擎的大小可以达到数GB级别。
模型就是引擎能够有效提供AI能力所依赖的数据集。对于一个模型来说它的存在形式就是一堆文件,通常这一堆文件也是按照一定的目录结构存放在一起。很多个模型就是很多个目录。通常一个模型的大小可以达到数GB级别。
一套AI应用系统部署下来,通常会携带大量的引擎和模型,这导致整个部署包的大小会随着引擎及模型的增加而不断增大。又因为引擎需要与模型搭配使用,有时会涉及到多个引擎与多个模型交叉的情况,即一个引擎可能依赖多个模型,一个模型可能被多个引擎依赖。因此为了简化部署,总是将全部模型打包成一个大的压缩包以满足各个引擎需求,同时搭配不同的引擎,实现各项AI能力。
但实际应用场景中,可能并需要全部的模型,只需要引擎所依赖的模型即可,上面那样做会导致无效的开销。由于模型的体量通常很大,这使得每次私有化部署都会携带一个很大的安装包,随着安装包不断增大,已经慢慢达到一种无法接受的地步。此外如果有增量部署引擎及模型的需求,目前这种模式实现起来是比较麻烦的,需要将增量部署的引擎依赖的模型打成一个大包加上引擎拿到现场部署,十分不方便。
发明内容
为了克服上述缺陷,提出了本发明,以提供解决或至少部分地合理部署引擎安装包、减少携带的数据单元的技术问题的引擎获取方法、装置以及计算机可读存储介质。
在第一方面,本发明提供一种引擎获取方法,所述方法包括:
获取对引擎的请求;
获取所述引擎的压缩包,所述引擎的压缩包中携带所述引擎对应的数据单元描述信息,所述数据单元描述信息中记录了所述引擎依赖的数据单元的信息;
根据所述数据单元描述信息,获取所述数据单元的压缩包;
使用所述引擎的压缩包和所述数据单元的压缩包,生成所述引擎的安装包;
返回所述引擎的安装包,以响应所述请求。
在上述引擎获取方法的一个技术方案中,在“获取对引擎的请求”的步骤之前,还包括:
获取所述引擎的打包描述信息,所述打包描述信息中记录了所述引擎的信息和所述数据单元的信息;
根据所述打包描述信息,生成所述引擎的压缩包和所述数据单元的压缩包;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于江苏云从曦和人工智能有限公司,未经江苏云从曦和人工智能有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111558368.6/2.html,转载请声明来源钻瓜专利网。





