[发明专利]一种视觉大模型分布式训练方法及系统在审
| 申请号： | 202110784131.3 | 申请日： | 2021-07-12 |
| 公开（公告）号： | CN113723443A | 公开（公告）日： | 2021-11-30 |
| 发明（设计）人： | 白鑫贝;李革;王耀威;纪雯 | 申请（专利权）人： | 鹏城实验室;北京大学深圳研究生院 |
| 主分类号： | G06K9/62 | 分类号： | G06K9/62;G06T1/20;G06F3/06;G06N3/04;G06N3/08;H04L29/08 |
| 代理公司： | 深圳市君胜知识产权代理事务所(普通合伙) 44268 | 代理人： | 陈专 |
| 地址： | 518000 广*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种视觉大模型分布式训练方法及系统，所述方法包括：构建分布式训练系统，包括主控服务器、多个GPU服务器、分布式存储服务器和存储网络交换机；根据视觉大模型训练所用数据集的大小，确定数据加载方式；根据所述视觉大模型的结构特点，对所述视觉大模型中不同类型的网络层组的参数量和计算量进行评估，结合GPU的算力和缓存能力对所述视觉大模型进行分解，确定所述视觉大模型的并行训练方案；采用混合并行模式进行模型训练，基于所述主控服务器进行模型聚合、全局模型更新和模型分发，在训练过程中每隔若干周期利用训练集和验证集对所述视觉大模型进行测评，当所述视觉大模型收敛后停止训练；本发明实现了视觉大模型的高效训练。 | ||
| 搜索关键词： | 一种 视觉 模型 分布式 训练 方法 系统 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于鹏城实验室;北京大学深圳研究生院，未经鹏城实验室;北京大学深圳研究生院许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202110784131.3/，转载请声明来源钻瓜专利网。
