[发明专利]一种分布式算力整合方法、主控系统及电子设备在审
申请号: | 202110571840.3 | 申请日: | 2021-05-25 |
公开(公告)号: | CN113282416A | 公开(公告)日: | 2021-08-20 |
发明(设计)人: | 薛超;王宁;邓晔;王健;魏云;楚海朋 | 申请(专利权)人: | 天津天地伟业智能安全防范科技有限公司 |
主分类号: | G06F9/50 | 分类号: | G06F9/50 |
代理公司: | 北京众达德权知识产权代理有限公司 11570 | 代理人: | 徐彦圣 |
地址: | 300450 天津市滨海新区华*** | 国省代码: | 天津;12 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 分布式 整合 方法 主控 系统 电子设备 | ||
本发明提供了一种分布式算力整合方法、装置及电子设备,属于人工智能的技术领域,缓解了现有技术中存在的单个AI芯片算力较低,效率受限的技术问题。所述方法包括以下步骤:主控芯片获取信息流,根据信息流进行算法分解,确认算法种类;主控芯片选取AI芯片;通过AI智能卡命令AI芯片根据算法种类创建对应的算法以及信息流解码器;主控芯片通过AI智能卡向选取的AI芯片推送信息流;AI芯片利用信息流解码器对信息流进行解码,并使用算法对信息流进行处理;将处理后的信息流通过AI智能卡返回主控芯片。
技术领域
本发明涉及人工智能的技术领域,尤其是涉及一种分布式算力整合方法、主控系统及电子设备。
背景技术
随着人工智能(AI)技术的发展和应用的多样化,算法的复杂度增加,需要处理的视频流或图片流的路数也越来越多,对服务器运算能力的要求大幅提升,同等服务器执行用户任务的速度临近瓶颈,所以需要改变现有的方案,以增强算力能力,并降低成本。
发明内容
本发明的目的在于提供一种分布式算力整合方法、主控系统及电子设备,缓解了现有技术中存在的单个AI芯片算力较低,效率受限的技术问题。
第一方面,本发明提供的分布式算力整合方法,应用于主控系统中,所述主控系统包括一个主控芯片、多个AI智能卡以及多个AI芯片;所述方法包括以下步骤:
主控芯片获取信息流,根据信息流进行算法分解,确认算法种类;
主控芯片选取AI芯片;
通过AI智能卡命令AI芯片根据算法种类创建对应的算法以及信息流解码器;
主控芯片通过AI智能卡向选取的AI芯片推送信息流;
AI芯片利用信息流解码器对信息流进行解码,并使用算法对信息流进行处理;
将处理后的信息流通过AI智能卡返回主控芯片。
进一步的,所述方法还包括:
主控芯片以预设周期通过AI智能卡扫描并记录所有AI芯片,并获取所有AI芯片的网络状态以及运行状态。
进一步的,所述主控芯片选取AI芯片的步骤,具体包括:
通过每个AI芯片的运行状态统计每个AI芯片的通道占用数;
将通道占用数进行排序;
选取通道占用数最少的AI芯片。
进一步的,所述AI芯片对信息流进行解码,并使用算法对信息流进行处理的步骤之后,还包括:
确认处理结果是否异常;
若否,则执行所述将处理后的信息流通过AI智能卡返回主控芯片的步骤;
若是,则主控芯片通过AI智能卡控制AI芯片重启,并返回通过AI智能卡命令AI芯片创建对应的算法以及信息流解码器的步骤。
进一步的,所述方法还包括:
若选取的AI芯片掉线,则返回主控芯片选取AI芯片的步骤。
进一步的,所述将处理后的信息流通过AI智能卡返回主控芯片的步骤之后,还包括:
主控芯片收集处理后的信息流,并输出算法结果。
第二方面,本发明还提供一种主控系统,包括:
1个主控芯片、多个AI智能卡、多个AI芯片;
所述主控芯片的输入端连接至外界系统,所述主控芯片的输出端通过交换机连接至每个AI智能卡的输入端;
每个AI智能卡的输出端均连接有预设数量的AI芯片;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于天津天地伟业智能安全防范科技有限公司,未经天津天地伟业智能安全防范科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110571840.3/2.html,转载请声明来源钻瓜专利网。