|
钻瓜专利网为您找到相关结果 2200244个,建议您 升级VIP下载更多相关专利
- [发明专利]一种网络资源的处理装置、方法和系统-CN201410127405.1有效
-
柴晓前
-
华为技术有限公司
-
2014-03-31
-
2018-01-23
-
H04L12/873
- 本发明公开一种网络资源的处理装置、方法和系统,涉及通信网络技术领域,用于解决处理网络资源时导致网络设备间的通信堵塞问题。根据接收模块接收调度Scheduler平台传递的与计算任务相对应的计算环境信息和各个计算节点的网络信息,并将计算环境信息提供给决策带宽模块和生成模块,将各个计算节点的网络信息提供给生成模块;决策带宽模块根据计算环境信息为计算任务决策分配的带宽;生成模块根据各个计算节点的网络信息、决策分配的带宽和计算环境信息为计算任务生成路由配置策略信息,并将路由配置策略信息提供给发送模块;发送模块将路由配置策略信息发送给路由配置控制器。本发明实施例提供的方案适于处理网络资源时采用。
- 一种网络资源处理装置方法系统
- [发明专利]MoE模型训练方法、装置、设备以及存储介质-CN202211376821.6在审
-
杨超;陈畅;李敏
-
北京大学
-
2022-11-04
-
2022-12-02
-
G06F9/50
- 本公开的实施例提供了一种MoE模型训练方法、装置、设备以及存储介质,涉及神经网络技术领域。该方法包括:对MoE模型训练所用的计算设备网络进行拓扑探测,确定计算设备网络的拓扑类型;探测计算设备网络中任意两个计算设备之间的通信开销和传输开销,生成计算设备网络的通信性能矩阵和传输性能矩阵;根据拓扑类型对应的求解策略、通信性能矩阵和传输性能矩阵,求解各计算设备的数据分发模式;根据各计算设备的数据分发模式调整MoE模型的总损失函数;利用计算设备网络对调整后的MoE模型进行训练。以此方式,可以根据计算设备网络的拓扑结构求解各计算设备高效的数据分发模式,并基于此实现分发均衡,提升模型训练性能。
- moe模型训练方法装置设备以及存储介质
|