[发明专利]基于CPU-NPU协同的高扩展节点系统及训练方法有效
| 申请号： | 202310203989.5 | 申请日： | 2023-03-06 |
| 公开（公告）号： | CN116074179B | 公开（公告）日： | 2023-07-14 |
| 发明（设计）人： | 田永鸿;陈文光;高文;王丙强;林哲;章弋嘉 | 申请（专利权）人： | 鹏城实验室 |
| 主分类号： | H04L41/044 | 分类号： | H04L41/044;H04L41/042;H04L41/16;H04L67/2876;H04L67/2885 |
| 代理公司： | 深圳市君胜知识产权代理事务所(普通合伙) 44268 | 代理人： | 陈专 |
| 地址： | 518000 广*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种基于CPU‑NPU协同的高扩展节点系统及训练方法，所述系统包括：通用算力模块、AI算力模块、层次访存模块、数据缓存模块和网络接口模块；通用算力模块和AI算力模块进行分组互连，用于AI节点内片间互连的扩展；层次访存模块用于在通用算力模块与AI算力模块处理数据时提供通用计算的大内存和AI计算的高带宽；数据缓存模块用于处理通用算力模块在计算时的数据IO吞吐；网络接口模块用于将通用算力模块和AI算力模块在计算时进行分离通信。本发明从AI节点的互连、访存、存储、网络接口出发提出高扩展节点架构，实现AI算力‑层次访存‑片间互连均衡设计，以满足AI大模型训练需求。 | ||
| 搜索关键词： | 基于 cpu npu 协同 扩展 节点 系统 训练 方法 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于鹏城实验室，未经鹏城实验室许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202310203989.5/，转载请声明来源钻瓜专利网。
