[发明专利]一种基于生成对抗和知识蒸馏的轻量级多模推荐方法

权利要求书

1.一种基于生成对抗和知识蒸馏的轻量级多模推荐方法，其特征是，包括步骤如下：

步骤1、采集各用户的原始数据，对原始数据中的点击数据和购买数据进行过滤，分别得到用户真实点击序列和用户真实购买向量；

步骤2、利用各用户的用户真实点击序列对GRU生成对抗网络的GRU生成器和GRU判别器进行对抗训练，并输出各用户的最终的用户生成点击序列；

步骤3、利用各用户的用户真实购买向量对CF生成对抗网络的CF生成器和CF判别器进行对抗训练，并输出各用户的最终的用户生成购买向量；

步骤4、将GRU生成对抗网络对抗训练后所得到的GRU判别器和CF生成对抗网络对抗训练后所得到的CF判别器组成教师网络，并将一个独立的神经网络组成学生网络；

步骤5、将各用户的最终的用户生成点击序列和最终的用户生成购买向量分别送入到教师网络和学生网络中进行深度学习，得到深度学习后的教师网络和学生网络；

步骤6、基于知识蒸馏方法，深度学习后的教师网络和深度学习后的学生网络在网络的softmax层传递预测值，以让学生网络最后的输出值与教师网络最后的输出值尽可能相同，得到知识蒸馏后的教师网络和学生网络；

步骤7、用户从云端下载知识蒸馏后的学生网络，并利用该知识蒸馏后的学生网络对用户感兴趣的商品进行推荐。

2.根据权利要求1所述的一种基于生成对抗和知识蒸馏的轻量级多模推荐方法，其特征是，步骤2的具体过程如下：

步骤2.1、从大样本空间中，生成用户随机点击序列；

步骤2.2、将用户随机点击序列输入GRU生成对抗网络的GRU生成器，GRU生成器生成与用户真实点击序列同分布的用户生成点击序列；

步骤2.3、GRU生成对抗网络的GRU判别器将当前的用户生成点击序列与用户真实点击序列进行真假判别，GRU判别器根据当前的判别结果指导GRU生成器进行参数更新，让用户真实点击序列输出概率尽可能接近100％，当前的用户生成点击序列输出概率尽可能接近0％；

步骤2.4、固定GRU判别器，并将当前的判别结果输出给GRU生成器，GRU生成器根据当前的判别结果指导GRU生成器进行参数更新，使得GRU生成器后续生成的用户生成点击序列能让CF判别器难以区别是否真实；

步骤2.5、重复步骤2.3-2.4，GRU生成器和GRU判别器进行迭代的对抗训练，直到双方结果收敛，并输出最终的用户生成点击序列。

3.根据权利要求1所述的一种基于生成对抗和知识蒸馏的轻量级多模推荐方法，其特征是，步骤3的具体过程如下：

步骤3.1、从大样本空间中，生成用户随机购买向量；

步骤3.2、将用户随机购买向量输入CF生成对抗网络的CF生成器，CF生成器生成与用户真实购买向量同分布的用户生成购买向量；

步骤3.3、CF生成器根据用户真实购买向量，从当前的用户生成购买向量随机选取其中部分用户未购买商品的用户生成购买向量作为用户虚假购买向量，并用户虚假购买向量与用户真实购买向量相乘，更新当前的用户生成购买向量；

步骤3.4、CF生成对抗网络的CF判别器将当前的用户生成购买向量与用户真实购买向量进行真假判别，CF判别器根据当前的判别结果指导CF生成器进行参数更新，让用户真实购买向量输出概率尽可能接近100％，当前的用户生成购买向量输出概率尽可能接近0％；

步骤3.5、固定CF判别器，并将当前的判别结果输出给CF生成器，CF生成器根据当前的判别结果指导CF生成器进行参数更新，使得CF生成器后续生成的用户生成购买向量能让CF判别器难以区别是否真实；

步骤3.6、重复步骤3.3-3.5，CF生成器和CF判别器进行迭代的对抗训练，直到双方结果收敛，并输出最终的用户生成购买向量。