[发明专利]一种人工智能AI系统及数据处理方法在审
申请号: | 202010170003.5 | 申请日: | 2020-03-12 |
公开(公告)号: | CN111427702A | 公开(公告)日: | 2020-07-17 |
发明(设计)人: | 齐云飞;付骁弈;张杰 | 申请(专利权)人: | 北京明略软件系统有限公司 |
主分类号: | G06F9/54 | 分类号: | G06F9/54;G06F9/50 |
代理公司: | 北京安信方达知识产权代理有限公司 11262 | 代理人: | 王素燕;龙洪 |
地址: | 100084 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 人工智能 ai 系统 数据处理 方法 | ||
1.一种人工智能AI系统,其特征在于,包括:
大数据处理引擎、代理组件和图形处理器GPU计算组件;
所述GPU计算组件上部署多个独立运行的AI子模型,每一个AI子模型对应一个AI模型中的部分功能;
所述大数据处理引擎用于通过所述代理组件以远程过程调用RPC形式实现对所述AI子模型的调用。
2.根据权利要求1所述的AI系统,其特征在于,
所述GPU计算组件包括多个GPU;
一个AI子模型的实例部署在一个或者多个GPU上,所述实例为一个或者多个。
3.根据权利要求1所述的AI系统,其特征在于,
所述大数据处理引擎用于读取外部数据,然后通过所述代理组件以远程过程调用RPC形式调用一个或者多个AI子模型对所述外部数据进行AI处理。
4.根据权利要求1所述的AI系统,其特征在于,
所述RPC采用Thrift框架;
所述大数据处理引擎承载所述Thrift框架的一个或者多个Thrift客户端,所述多个AI子模型组成所述Thrift框架的Thrift服务端;
所述大数据处理引擎用于利用所述Thrift客户端通过所述代理组件实现对所述Thrift服务端中一个或者多个AI子模型的远程调用。
5.根据权利要求1所述的AI系统,其特征在于,
所述RPC采用Thrift框架,所述大数据处理引擎承载所述Thrift框架的一个或者多个Thrift客户端,所述多个AI子模型组成所述Thrift框架的Thrift服务端;
所述系统还包括:缓存组件;
所述大数据处理引擎利用hrift客户端通过缓存组件和代理组件实现对Thrift服务端中一个或者多个AI子模型的远程调用。
6.根据权利要求1所述的AI系统,其特征在于,
所述大数据处理引擎为Flink计算引擎或者Spark计算引擎;
所述代理组件为高可用代理组件HAProxy。
7.根据权利要求5所述的AI系统,其特征在于,
所述缓存组件为共享池Common Pool。
8.根据权利要求1所述的AI系统,其特征在于,所述系统还包括:Kafka集群;
所述大数据处理引擎用于从所述Kafka集群读取外部数据,然后通过所述代理组件以远程过程调用RPC形式调用一个或者多个AI子模型对所述外部数据进行AI处理。
9.根据权利要求1所述的AI系统,其特征在于,
每一个AI子模型提供一个AI微服务。
10.一种数据处理方法,应用于上述权利要求1-9任一项所述的人工智能AI系统,包括:
大数据处理引擎读取外部数据;
通过所述代理组件以远程过程调用RPC形式调用GPU计算组件上部署的AI子模型对所述外部数据进行AI处理。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京明略软件系统有限公司,未经北京明略软件系统有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010170003.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种可多角度打开的门窗
- 下一篇:一种噪音评估方法、装置及存储介质