[发明专利]一种可解释的基于域间显式交互的神经因子的推荐系统及方法有效
申请号: | 201911396812.1 | 申请日: | 2019-12-30 |
公开(公告)号: | CN111177557B | 公开(公告)日: | 2023-09-29 |
发明(设计)人: | 姚建国;白华伟;管海兵 | 申请(专利权)人: | 上海交通大学 |
主分类号: | G06F16/9535 | 分类号: | G06F16/9535;G06N3/0464;G06N3/082 |
代理公司: | 上海汉声知识产权代理有限公司 31236 | 代理人: | 胡晶 |
地址: | 200240 *** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 可解释 基于 域间显式 交互 神经 因子 推荐 系统 方法 | ||
本发明提供了一种可解释的基于域间显式交互的神经因子的系统及方法,包括:原始数据经过嵌入层得到域嵌入向量,域嵌入向量经过线性变化得到基向量,对域嵌入向量和基向量进行划分得到预设数量的子嵌入向量和子基向量;对每个子嵌入向量和子基向量进行显式交互得到子域的中间交互张量,利用不共享的一维卷积变量分别对子域的中间交互张量进行特征提取,得到新的子域表征向量;新的子域表征向量经过正则层和注意力层得到加权的子域嵌入向量;每个加权的子域嵌入向量在输出层进行特征融合,最后经过归一化函数得到预测结果。本发明通过域间的显式特征交互进行特征映射,每次交互都会为每个域引入新的来自其他子域的信息,使得域间的交互更加丰富和完整。
技术领域
本发明涉及深度学习以及推荐系统领域,具体地,涉及一种可解释的基于域间显式交互的神经因子的系统及方法,更为具体地,涉及一种可解释的基于域间显式交互的神经因子网络模型。
背景技术
在大数据互联网时代,传统的机器学习算法由于有限的表征能力和手动的特征工程,不能有效应用于处理大批量数据集的复杂任务,因此基于神经网络的因子模型在推荐系统领域逐渐受到研究学者的关注,深度神经网络能够有效地学习特征间的非线性关系和拟合特征间的高阶交互,因而利用神经网络来提高推荐系统性能成为了业界必然的趋势,其中把传统的因子分解机和深度学习相结合的神经因子模型由于良好的可扩展性和优异的性能逐渐成为研究热点之一。
目前基于神经网络的因子模型从特征交互方式的角度可以分为显式交互和隐式交互两种,最近的研究表明显式交互在学习有界的特征交互时优于基于隐式交互的神经网络模型,但是现有的显式交互模型在选择交互对象时也存在不足,对特征规模比较敏感,并且无法自动地学习特征权重,缺乏可解释性,因此需要设计更加高效合理的显式交互操作和具有可解释性的显式交互模型。
发明内容
针对现有技术中的缺陷,本发明的目的是提供一种可解释的基于域间显式交互的神经因子的系统及方法。
本发明提供的一种可解释的基于域间显式交互的神经因子的系统,包括:
模块M1:原始数据经过嵌入层得到域嵌入向量,域嵌入向量经过线性变化得到基向量,对域嵌入向量和基向量进行划分得到预设数量的子嵌入向量和子基向量;
模块M2:对每个子嵌入向量和子基向量进行显式交互得到子域的中间交互张量,利用不共享的一维卷积变量分别对子域的中间交互张量进行特征提取,得到新的子域表征向量;新的子域表征向量经过正则层和注意力层得到加权的子域嵌入向量;
模块M3:每个加权的子域嵌入向量在输出层进行特征融合,最后经过归一化函数得到预测结果。
优选地,所述模块M1包括:
模块M1.1:初始化特征嵌入向量,通过输入层输入原始数据经过嵌入层检索到对应的特征嵌入向量,通过包括线性相加和/或非线性相乘合并同一域的特征得到域嵌入向量;
模块M1.2:利用线性变换对域嵌入向量的特征维度进行伸缩变换得到基向量,变换后的基向量的特征维度等于域的数量或者倍数;域嵌入向量和基向量的行数对应域的数量,列数对应域的隐表征维度;
模块M1.3:把基向量按列特征维度划分预设数量子基向量;
模块M1.4:把域嵌入向量划分为预设数量的子域嵌入向量,子基向量的数量等于子域嵌入向量的数量,并且子基向量和子域嵌入向量一一对应;子域嵌入向量的行数等于对应子基向量的列数;
所述域包括为原始数据的特征类别;
所述基向量的特征维度与原始数据的域数量相关,为了便于显式交互,基向量的特征维度等于域数量的倍数。
优选地,所述模块M2包括:
模块M2.1:子基向量的列数通过相邻列进行拼接缩减至子域的行数,使得能够分别在不同的映射空间中进行显式交互;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海交通大学,未经上海交通大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911396812.1/2.html,转载请声明来源钻瓜专利网。