[发明专利]基于注意力权重的图嵌入特征提取方法、装置及电子设备在审
申请号: | 202110464041.6 | 申请日: | 2021-04-26 |
公开(公告)号: | CN113298116A | 公开(公告)日: | 2021-08-24 |
发明(设计)人: | 王磊;宋孟楠;苏绥绥 | 申请(专利权)人: | 上海淇玥信息技术有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/02;G06N3/08 |
代理公司: | 北京清诚知识产权代理有限公司 11691 | 代理人: | 李博 |
地址: | 201500 上海市崇明*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 注意力 权重 嵌入 特征 提取 方法 装置 电子设备 | ||
本发明公开了一种基于注意力权重的图嵌入特征提取方法及装置,所述方法包括:基于用户通话信息构建关系图;根据当前节点与各个邻节点的通话信息计算各个邻节点的注意力权重;所述注意力权重用于反映当前节点与各个邻节点之间通话的亲密度;根据所述注意力权重对各个邻节点进行采样,得到固定个数的邻节点;根据所述固定个数的邻节点对应的向量序列训练图神经网络;配置目标函数,通过梯度下降法最小化所述目标函数,得到所述图神经网络参数;将待处理用户通话信息输入所述图神经网络中,得到图嵌入特征。本发明以注意力权重为依据对各个邻节点进行采样,从而在采样过程中得到固定排序和个数的邻节点,提高了图嵌入特征的准确性。
技术领域
本发明涉及计算机信息处理技术领域,具体而言,涉及一种基于注意力权重的图嵌入特征提取方法、装置、电子设备及计算机可读介质。
背景技术
图嵌入(Graph Embedding,也叫Network Embedding)通过保留图结构的网络拓扑结构和节点信息,将图结构中顶点表示为低维向量空间,以便用简单的机器学习算法进行处理。因此,图嵌入成为数据挖掘和机器学习领域关注的课题。
图嵌入可以分为矩阵分解、随机游走和深度学习。其中,图嵌入的深度学习方法属于图神经网络。由于图结构是不规则的,每个图结构由多个节点以及连接节点的边组成,每个节点的邻节点个数是不断变化的,因此,在提取图嵌入特征时,难以采集到固定排序和数量的邻节点,导致最终提取的图嵌入特征不够准确。
发明内容
本发明旨在解决无法采集到固定排序和数量的邻节点,影响图嵌入特征的准确性的技术问题。
为了解决上述技术问题,本发明第一方面提出一种基于注意力权重的图嵌入特征提取方法,所述方法包括:
基于用户通话信息构建关系图;
根据当前节点与各个邻节点的通话信息计算各个邻节点的注意力权重;所述注意力权重用于反映当前节点与各个邻节点之间通话的亲密度;
根据所述注意力权重对各个邻节点进行采样,得到固定个数的邻节点;
根据所述固定个数的邻节点对应的向量序列训练图神经网络;
配置目标函数,通过梯度下降法最小化所述目标函数,得到所述图神经网络参数;
将待处理用户通话信息输入所述图神经网络中,得到图嵌入特征。
根据本发明一种优选实施方式,对于节点u,有邻居节点集合Vu,则第i个邻居节点ui的注意力权重为:
其中,Pui是第i个节点的通话信息。
根据本发明一种优选实施方式,所述通话信息包括:通话时长和/或在预定时间内的通话次数。
根据本发明一种优选实施方式,所述根据所述固定个数的邻节点对应的向量序列训练图神经网络包括:
将节点v在第k-1层固定个数的邻节点对应的向量序列进行聚合,得到节点v在第k层的聚合向量;
其中,节点v在第k层的聚合向量为:
其中,σ为非线性激活函数,为平均节点v的邻节点在第k-1层的向量,为节点v在第k-1层的向量,Wk和Bk为所述图神经网络的参数。
根据本发明一种优选实施方式,所述目标函数为:
其中,为节点v在第k层的聚合向量的转置,Zni为节点v在第i层的聚合向量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海淇玥信息技术有限公司,未经上海淇玥信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110464041.6/2.html,转载请声明来源钻瓜专利网。