[发明专利]一种基于图的卷积网络训练方法、装置及系统有效
| 申请号: | 201910041725.8 | 申请日: | 2019-01-16 |
| 公开(公告)号: | CN111445020B | 公开(公告)日: | 2023-05-23 |
| 发明(设计)人: | 杨斯然;任毅;陈根宝;魏源;张研;田旭 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
| 主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/084;G06N3/0464 |
| 代理公司: | 北京思格颂知识产权代理有限公司 11635 | 代理人: | 潘珺 |
| 地址: | 英属开曼群岛大开*** | 国省代码: | 暂无信息 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 基于 卷积 网络 训练 方法 装置 系统 | ||
1.一种基于图的卷积网络训练系统,其特征在于,包括:至少一个计算节点装置和至少两个存储节点装置;
所述计算节点装置,包括:处理器、用于存储处理器可执行命令的存储器;其中,处理器被配置为可执行基于图的卷积网络训练方法;用于从所述至少一个存储节点装置中获取所述图的数据和基于所述图的各批次的训练数据;
所述至少两个存储节点装置,用于分布式地存储所述图,以及提供第一存储空间和/或第二存储空间;
所述卷积网络训练方法包括下述步骤:
根据预定义的图中的节点个数和预设的卷积模型层数,为卷积模型除了最低层和最高层之外的每一层建立第一存储空间,每个第一存储空间与一个节点标识对应且用于存储所述节点的特征向量;
基于每个批次的训练数据和所述图,确定所述训练数据的各中心节点的标识及所述中心节点的各邻居节点标识;
针对每个中心节点,从前一层所述中心节点的各邻居节点标识对应的第一存储空间中获取所述各邻居节点的表征向量;
根据前一层传递来的所述中心节点的表征向量及获取到的所述各邻居节点的表征向量,确定所述中心节点在本层中的表征向量,当当前层并非最低层或者最高层时,将确定出的表征向量传递至本层相邻的下一层并更新本层第一存储空间中所述中心节点标识对应的表征向量;
直至得到所述中心节点在最高层的表征向量。
2.如权利要求1所述的系统,其特征在于,邻居节点标识对应的第一存储空间中邻居节点的表征向量为:预先写入所述存储空间中各邻居节点表征向量的初始值;或者为所述邻居节点在其他批次的训练数据中作为中心节点时更新的表征向量。
3.如权利要求1所述的系统,其特征在于,根据前一层传递来的所述中心节点的表征向量及获取到的所述各邻居节点的表征向量,确定所述中心节点在本层中的表征向量,包括:
将所述前一层传递来的所述中心节点的表征向量与获取到的所述各邻居节点的表征向量中各邻居节点的特征向量值进行聚合,得到所述中心节点在本层中的表征向量。
4.如权利要求1-3任一项所述的系统,其特征在于,还包括:
根据预定义的图中的节点个数和预设的卷积模型层数,为卷积模型除了最低层和最高层之外的每一层建立第二存储空间,每个第二存储空间与一个节点标识对应且用于存储所述节点的梯度值;
在得到所述中心节点在最高层的表征向量之后,所述方法还包括:
将中心节点在最高层的表征向量和所述中心节点在所述图中的标签label 输入预设的损失函数,输出所述中心节点在最高层的梯度值;
通过所述中心节点在最高层的梯度值,更新所述最高层相邻的前一层的各邻居节点的梯度值和所述中心节点的梯度值;当所述前一层并非最低层时,将更新后的所述前一层的各邻居节点的梯度值写入前一层所述邻居节点标识对应的第二存储空间中;
从前一层的中心节点标识对应的第二存储空间中获取所述中心节点的梯度值;
根据从第二存储空间中获取到的中心节点的梯度值及更新后的中心节点的梯度值,得到所述中心节点在所述前一层的梯度值;
循环执行上述流程,直至得到最低层各邻居节点和中心节点的梯度值。
5.如权利要求4所述的系统,其特征在于,第二存储空间中所述中心节点的梯度值为:预设的初始梯度值;或者为所述中心节点在其他批次的训练数据中作为邻居节点时更新的梯度值。
6.如权利要求5所述的系统,其特征在于,所述从前一层的中心节点标识对应的第二存储空间中获取所述中心节点的梯度值之后,还包括:
将所述前一层的中心节点标识对应的第二存储空间中的梯度值还原为所述初始梯度值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910041725.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:电极组件及次氯酸钠生成器
- 下一篇:一种用于牙齿增白的口香糖





