[发明专利]基于容器的服务部署方法、装置和服务器在审
| 申请号: | 202211147275.9 | 申请日: | 2022-09-19 |
| 公开(公告)号: | CN115480785A | 公开(公告)日: | 2022-12-16 |
| 发明(设计)人: | 张伟;张友权;唐汇;张晨 | 申请(专利权)人: | 中国建设银行股份有限公司;建信金融科技有限责任公司 |
| 主分类号: | G06F8/61 | 分类号: | G06F8/61;G06F9/455 |
| 代理公司: | 北京同立钧成知识产权代理有限公司 11205 | 代理人: | 王茜;臧建明 |
| 地址: | 100033 *** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 基于 容器 服务 部署 方法 装置 服务器 | ||
本申请提供一种基于容器的服务部署方法、装置和服务器,涉及数据存储领域。该方法包括:服务器使用训练数据进行训练,得到模型文件。服务器将该模型文件上传到模型仓库中进行存储。服务器根据模型文件,确定其对应的模型服务代码。服务器根据模型服务代码,构建镜像文件。服务器将该镜像文件存储到镜像仓库中。服务器根据待部署服务,从镜像仓库中拉取该待部署服务对应的镜像文件,从第三方的模型仓库中下载该待部署服务对应的模型文件到目标服务器。服务器运行该镜像文件,并在该镜像文件中加载模型文件,实现该待部署服务的部署。本申请的方法,通过将模型服务代码和模型文件分开,极大的缩小了镜像文件的体积,提高了容器存储空间的利用率。
技术领域
本申请涉及数据存储领域,尤其涉及一种基于容器的服务部署方法、装置和服务器。
背景技术
随着人工智能(Artificial Intelligence,AI)技术的不断发展,AI服务在各个领域的应用越来越广泛。基于容器的AI服务部署方法可以通过对资源的限制和隔离,把AI服务直接移植到目标服务器上,实现该AI服务在目标服务器上的部署。
现有技术中,模型训练和模型服务发布是AI服务部署的重要一环。在模型训练和模型服务发布使用场景中,服务器可以根据不同版本的训练数据,在模型训练阶段得到不同版本的模型文件。不同版本的模型文件需要对应不同版本的模型服务。并且,在基于容器发布新的模型服务时,服务器需要根据不同版本的模型文件构建不同镜像文件,从而实现不同版本的模型服务的发布。
然而,在上述过程中,每一版本的模型文件和模型服务均需要对应生成一个镜像文件,这些镜像文件占用了大量的存储空间,容易导致存储空间利用率低的问题。
发明内容
本申请提供一种基于容器的服务部署方法、装置和服务器,用以解决现有技术中镜像文件占用了大量的存储空间,容易导致存储空间利用率低的问题。
第一方面,本申请提供一种基于容器的服务部署方法,包括:
对训练数据进行多次处理和训练,得到多个模型文件,并将模型文件上传到模型仓库中进行存储;
根据每一模型文件确定其对应的模型服务代码,并将根据模型服务代码构建的镜像文件存储到镜像仓库中;
根据待部署服务,提取待部署服务对应的模型文件和镜像文件,以完成待部署服务的部署。
可选地,模型服务代码中至少包括待部署服务的服务运行指令和模型文件在目标服务器中的目标存储地址。
可选地,根据待部署服务,提取待部署服务对应的模型文件和镜像文件,具体包括:
根据待部署服务的部署编排文档中模型初始化镜像的存储地址,从镜像仓库中拉取模型初始化镜像到目标服务器;
运行模型初始化镜像,以使模型初始化镜像根据部署编排文档中的模型地址,从模型仓库中将模型文件下载到目标服务器;
使用模型初始化镜像对模型文件中的数据模型进行初始化处理,以使数据模型被待部署服务对应的镜像文件中的模型服务镜像使用;
根据部署编排文档中的镜像地址,从镜像仓库中拉取镜像文件到目标服务器;
运行镜像文件中的模型服务镜像,以完成待部署服务在目标服务器的部署。
可选地,方法,还包括:
根据部署编排文档中的共享存储空间,在共享存储空间中为容器配置一个用于数据缓存和数据临时存储的空存储卷。
可选地,对训练数据进行多次处理和训练,得到多个模型文件,并将模型文件上传到模型仓库中进行存储,具体包括:
对训练数据进行数据处理,得到处理后的训练数据,并使用处理后的训练数据训练得到的数据模型;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国建设银行股份有限公司;建信金融科技有限责任公司,未经中国建设银行股份有限公司;建信金融科技有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211147275.9/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种纸张覆膜机和纸张覆膜的方法
- 下一篇:一种冲压机





