[发明专利]一种AI模型服务集群架构的部署方法、装置及介质在审
申请号: | 202311041399.3 | 申请日: | 2023-08-18 |
公开(公告)号: | CN116775047A | 公开(公告)日: | 2023-09-19 |
发明(设计)人: | 陈天友;陶征霖;常雷;姚佳丽;霍瑞龙;刘大伟;宋宜旭 | 申请(专利权)人: | 北京偶数科技有限公司 |
主分类号: | G06F8/60 | 分类号: | G06F8/60;G06N20/00;G06F8/61;G06F8/65;G06F9/54;H04L67/01;H04L43/10 |
代理公司: | 北京万思博知识产权代理有限公司 11694 | 代理人: | 袁李芳 |
地址: | 100080 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 暂无信息 | 说明书: | 暂无信息 |
摘要: | 本发明公开了一种AI模型服务集群架构的部署方法、装置及介质。其中,方法包括:客户端程序发送AI模型服务集群架构部署请求至管理服务器的进程程序;进程程序根据部署请求获取预测引擎进程程序文件,并将预测引擎进程程序文件中预测引擎进程程序发送至预测服务器集群并启动预测引擎进程程序;预测服务器集群返回部署成功信号至进程程序,进程程序将预测引擎进程程序加入预先建立的预测引擎列表;进程程序间隔预定时间向预测服务器集群的预测引擎进程程序发送心跳验证;预测引擎进程程序返回心跳证明健康至进程程序;进程程序返回AI模型服务集群架构的部署成功消息至客户端程序,完成AI模型服务集群架构的部署。 | ||
搜索关键词: | 一种 ai 模型 服务 集群 架构 部署 方法 装置 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京偶数科技有限公司,未经北京偶数科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202311041399.3/,转载请声明来源钻瓜专利网。