[发明专利]模型管理方法、平台、电子设备及可读存储介质在审
申请号: | 202310019783.7 | 申请日: | 2023-01-06 |
公开(公告)号: | CN116107712A | 公开(公告)日: | 2023-05-12 |
发明(设计)人: | 简仁贤;忻成杰 | 申请(专利权)人: | 竹间智能科技(上海)有限公司 |
主分类号: | G06F9/48 | 分类号: | G06F9/48;G06F9/50;G06N20/00 |
代理公司: | 北京润泽恒知识产权代理有限公司 11319 | 代理人: | 莎日娜 |
地址: | 200030 上海市徐*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 管理 方法 平台 电子设备 可读 存储 介质 | ||
1.一种模型管理方法,其特征在于,应用于模型管理平台,所述模型管理平台与上层业务系统连接,所述模型平台包括:模型接入层以及模型调度层;所述方法包括:
通过所述模型接入层在接收到所述上层业务系统发送的业务请求的情况下,确定所述业务请求对应的问题标签,作为目标问题标签;
通过所述模型接入层基于所述目标问题标签以及所述模型管理平台中所述目标问题标签关联的模型的评测指标确定目标模型;
通过所述模型调度层向所述模型管理平台的目标服务器中加载所述目标模型,以供所述上层业务系统使用。
2.根据权利要求1所述的方法,其特征在于,所述通过所述模型调度层向所述模型管理平台的目标服务器中加载所述目标模型,包括:
通过所述模型调度层获取服务器集群中各服务器的可用内存信息、中央处理器CPU性能信息以及已加载的模型的使用信息;
通过所述模型调度层基于所述可用内存信息、所述CPU性能信息以及所述使用信息,从所述服务器集群中确定所述目标服务器;
通过所述模型调度层将所述目标模型从文件系统加载至所述目标服务器。
3.根据权利要求1所述的方法,其特征在于,所述通过所述模型接入层基于所述目标问题标签以及所述模型管理平台中所述目标问题标签关联的模型的评测指标确定目标模型,包括:
通过所述模型接入层基于所述目标问题标签关联的各模型的评测指标,从所述目标问题标签关联的模型中确定运行效果符合预设要求的模型,以作为所述目标模型;关联同一问题标签的模型的评测指标中包含的指标种类相同;
其中,所述模型的评测指标用于衡量所述模型的运行效果。
4.根据权利要求1所述的方法,其特征在于,所述模型管理平台还包括算法管理层;所述方法还包括:
通过所述算法管理层判断预设模型中包含的算法对应的算法类型;所述预设模型包括接入所述模型管理平台的模型;
通过所述算法管理层基于所述算法类型定义所述预设模型对应的模型输入格式和模型输出格式;
通过所述算法管理层将所述预设模型对应的模型输入格式和模型输出格式发送给所述上层业务系统,以供所述上层业务系统根据所述预设模型对应的模型输入格式和模型输出格式在所述上层业务系统中定义所述预设模型;
其中,所述目标模型属于所述预设模型。
5.根据权利要求4所述的方法,其特征在于,所述方法还包括:
通过所述模型接入层响应于算法接入请求,将所述算法接入请求指示的算法确定为待接入算法;
通过所述模型接入层基于所述待接入算法训练获取所述待接入算法对应的模型,得到待确认模型;
通过所述模型接入层根据所述待确认模型所实现的功能,确定所述待确认模型对应的问题标签;
通过所述模型接入层将所述待确认模型与所述问题标签关联。
6.根据权利要求1-5任一所述的方法,其特征在于,所述预设模型集合包括训练模型和可复用模型,所述模型接入层包括模型生成模块和模型存储模块;所述方法还包括:
通过所述模型生成模块基于所述算法管理层中的算法和训练数据,训练生成所述训练模型;所述训练模型中包含的算法为所述模型管理平台中接入的满足预设协议的算法;
通过所述模型存储模块获取符合条件的所述训练模型的训练参数,将所述训练参数进行存储,得到所述可复用模型。
7.一种模型管理平台,其特征在于,所述模型管理平台与上层业务系统连接,所述模型管理平台包括:模型接入层以及模型调度层;
所述模型接入层,用于在接收到所述上层业务系统发送的业务请求的情况下,确定所述业务请求对应的问题标签,作为目标问题标签;
所述模型接入层,还用于基于所述目标问题标签以及所述模型管理平台中所述目标问题标签关联的模型的评测指标确定目标模型;
所述模型调度层,用于向所述模型管理平台的目标服务器中加载所述目标模型,以供所述上层业务系统使用。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于竹间智能科技(上海)有限公司,未经竹间智能科技(上海)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310019783.7/1.html,转载请声明来源钻瓜专利网。