[发明专利]一种面向任务的人工智能项目通用架构平台及其使用方法在审
申请号: | 202210406108.5 | 申请日: | 2022-04-18 |
公开(公告)号: | CN114840182A | 公开(公告)日: | 2022-08-02 |
发明(设计)人: | 吴博文;龚科;陈添水 | 申请(专利权)人: | 拓元(广州)智慧科技有限公司 |
主分类号: | G06F8/20 | 分类号: | G06F8/20;G06F8/36;G06F9/48 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 511455 广东省广州市南沙区丰泽东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 面向 任务 人工智能 项目 通用 架构 平台 及其 使用方法 | ||
本发明提供了一种面向任务的人工智能项目通用架构平台及其使用方法,所述面向任务的人工智能项目通用架构平台包括:模型服务注册模块,用于注册预先训练好的模型,以及注册模型服务;调用顺序管理模块,用于管理和调整各模型服务之间的调用顺序;调用数据管理模块,用于管理和调整各模型服务之间的数据结构关系和调用的上下级关系;服务推理管理模块,用于提供调用入口以及对调用进行权限鉴定。本发明可以避免不同项目重复设计架构,使得面向任务的人工智能可以简单地进行部署,而且部署的模型能够即插即用。
技术领域
本发明涉及人工智能部署架构领域,具体涉及一种面向任务的人工智能项目通用架构平台及其使用方法。
背景技术
随着深度学习技术出现,大数据以及计算能力的提高,人工智能成为推动科技跨域发展、产业优化升级、生产力整体跃升的重要驱动力量,其基础性和关键性作用日益凸显。
但是,随着人工智能任务越来越复杂,单模型系统已经不能满足现实的需要,更多的系统是通过多模态、多模型配合来实现的。这就需要针对每一个系统设计一个高性能、高可用性的软件架构来配合模型的开发部署。
另一方面,人工智能在赋能行业的过程中,一般都会涌现很多的创新性构想,所以需要一个系统对这些构想做快速实现、快速试错。如果每一个构想都重新设计软件架构来配合,则需要不同岗位的工作人员花费大量的沟通成本,拉长了实现的周期,增加了试错的成本。
发明内容
本发明的目的在于针对现有技术中的问题,提供一种面向任务的人工智能项目通用架构平台及其使用方法,以满足人工智能项目需要快速实现、快事试错的需求。
为实现上述目的,本发明采用以下技术方案:
一种面向任务的人工智能项目通用架构平台,包括:
模型服务注册模块,用于注册预先训练好的模型,以及注册模型服务;
调用顺序管理模块,用于管理和调整各模型服务之间的调用顺序;
调用数据管理模块,用于管理和调整各模型服务之间的数据结构关系和调用的上下级关系;
服务推理管理模块,用于提供调用入口以及对调用进行权限鉴定。
进一步地,所述模型服务注册模块在注册模型服务时,要求用户提供服务调用的地址和调用的数据结构。
进一步地,所述服务推理管理模块中设有服务推理入口,用于供用户提交推理请求以及输入待推理数据;
所述服务推理管理模块还用于按照调用顺序管理模块中设置的调用顺序和调用数据管理模块中设置的数据结构关系,执行用户的推理请求,并输出得到的推理数据。
进一步地,所述模型服务注册模块还用于修改或删除注册好的模型服务。
进一步地,所述调用顺序管理模块中设有条件跳转子模块,用于通过条件进行调用顺序的跳转设置。
一种以上所述的面向任务的人工智能项目通用架构平台的使用方法,包括:
S1、通过模型服务注册模块,注册预先训练好的模型及其相关的模型服务,在注册模型服务时,提供服务调用的地址和调用的数据结构;
S2、通过调用顺序管理模块,修改各模型服务之间的调用顺序;
S3、通过调用数据管理模块,修改各模型服务之间的上下级调用关系和数据结构关系;
S4、通过服务推理管理模块中的服务推理入口,提交推理请求并输入待推理数据;所述服务推理管理模块按照调用顺序管理模块中设置的调用顺序和调用数据管理模块中设置的数据结构关系,执行用户的推理请求,并输出得到的推理数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于拓元(广州)智慧科技有限公司,未经拓元(广州)智慧科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210406108.5/2.html,转载请声明来源钻瓜专利网。