[发明专利]一种基于联合概率矩阵分解的移动社会化推荐方法

摘要

基于联合概率矩阵分解UPMF的移动社会化推荐方法，分三个步骤：第一步，基于用户评分信息构建评分矩阵，并进行归一化处理；第二步，基于用户社会化网络信息构建信任矩阵，包含直接信任度和间接信任度的计算；第三步，基于联合概率矩阵分解算法UPMF，结合用户评分矩阵和信任矩阵进行联合推荐。

主权项

基于联合概率矩阵分解UPMF的移动社会化推荐方法，具体步骤如下：步骤1.基于用户评分信息构建评分矩阵；采用整型评分值1到R_max表示用户的喜欢程度，为了不失一般性，将整型评分值映射到[0,1]区间，具体计算公式如(1)所示：r_ij＝f(R_ij)＝(R_ij‑1)/(R_max‑1)   (1)其中R_ij代表移动用户u_i对服务s_j的整型评分值，r_ij是映射得到的评分值，r_ij∈[0,1]；步骤2.基于用户社会化网络信息构建信任矩阵；提出一种符合群组结构特点的信任度计算方法，包含直接信任度和间接信任度的计算；假设目标用户u₁创建了群组msn₁₁，并添加u₂、u₃、u₄作为其群组成员，则认为用户u₁和u₂、u₃、u₄之间存在直接信任关系，u₂、u₃、u₄是用户u₁的邻居；同理，假设用户u₅创建了群组msn₅₁，并添加u₃、u₄作为其群组成员，则u₃、u₄是用户u₅的邻居；尽管用户u₁和u₅之间没有直接信任关系，但存在共同的邻居u₃和u₄，则认为u₁和u₅之间存在间接信任关系，即u₁和u₅互为间接邻居；相关概念定义如下：相关度：用户之间的相关度主要依赖于用户之间是否具有直接或间接信任关系，若用户之间具有直接信任关系，则其(直接)相关度取决于邻居在目标用户所有创建的移动网络中出现的频率；若用户之间具有间接信任关系，则其(间接)相关度取决于用户双方共同好友的比例；可信度：用户的可信度指用户在整个移动社会化网络中的可信程度，若用户的邻居数量越多，则其可信度越低，反之，若用户作为他人邻居的次数越多，则其可信度越高；21.直接信任度计算；若用户u_i和u_k之间存在直接信任关系，即u_k是u_i的邻居，则直接信任度值如公式(2)所示：${\mathrm{DT}}_{u_i-\>u_k}=\mathrm{\α}\·{\mathrm{ds}}_{ik}+(1-\mathrm{\α})\·t_{ik},0\<\mathrm{\α}\<1---\left(2\right)$其中，α为直接相关度在信任度计算中所占的权重，ds_ik为用户u_i对u_k的直接相关度，具体公式如(3)所示：${\mathrm{ds}}_{ik}=\frac{\left|{\mathrm{msn}}_{u_k\∈{\mathrm{msn}}_i}\right|}{\left|{\mathrm{msn}}_i\right|}---\left(3\right)$其中|msn_i|是用户u_i创建的移动社会化网络数量，是用户u_i创建的移动社会化网络中包含用户u_k的网络数量；t_ik为用户u_i对u_k的可信度计算公式，具体如公式(4)所示：$t_{ik}=\sqrt{\frac{\left|N^{-}\left(u_k\right)\right|}{\left|N^{+}\left(u_i\right)\right|+\left|N^{-}\left(u_k\right)\right|}}---\left(4\right)$其中N^‑(u_k)是在整个社会化网络中信任用户u_k的用户集合，即将u_k作为邻居的用户集合，|N^‑(u_k)|是用户u_k的入度，即信任用户u_k的用户集合大小；N⁺(u_i)是用户u_i在整个社会化网络中的邻居集合，|N⁺(u_i)|是用户u_i的出度，即用户u_i的邻居集合大小；22.间接信任度计算；若用户u_i和u_k之间存在间接信任关系，则间接信任度值如公式(5)所示：${\mathrm{IDT}}_{u_i-\>u_k}=\mathrm{\β}\·{\mathrm{is}}_{ik}+(1-\mathrm{\β})\·t_{ik},0\<\mathrm{\β}\<1---\left(5\right)$其中，β为间接相关度在信任度计算中所占的权重，is_ik为用户u_i对u_k的间接相关度，具体公式如(6)所示：${\mathrm{is}}_{ik}=\frac{|N^{+}\left(u_i\right)\∩N^{+}\left(u_k\right)|}{\left|N^{+}\left(u_i\right)\right|}---\left(6\right)$其中|N⁺(u_i)∩N⁺(u_k)|为用户u_i和u_k在整个移动社会化网络中的共同邻居数量；t_ik为用户u_i对u_k的可信度，具体如公式(4)所示；步骤3.基于联合概率矩阵分解算法UPMF的移动社会化推荐；采用联合概率矩阵分解算法UPMF，结合步骤1求得的评分矩阵R＝[r_ij]_m×n和步骤2求得的信任矩阵S＝[s_ik]_m×m进行联合推荐，其中m为用户的数量，n为服务的数量；R可以分解为用户因子矩阵U∈R^l×m的转置和服务因子矩阵V∈R^l×n的乘积，S可以分解为用户因子矩阵U的转置和信任因子矩阵Z∈R^l×m的乘积，R和S共享用户因子矩阵U，其中R^i×j代表i×j的矩阵。U_i为U的第i列，V_j为V的第j列，Z_k为Z的第k列，通过求解U_i和V_j重构得到评分矩阵R中空缺的r_ij，进而完成推荐；具体步骤如下：(31)求解潜在特征向量U_i和V_j；以最大化联合后验概率为目标函数，基于梯度下降方法学习得到用户潜在特征向量U_i和服务潜在特征向量V_j；具体步骤如下：S1.假设U_i，V_j和Z_k先验概率服从高斯分布且相互独立，即：$p\left(U\right|{\mathrm{\σ}}_U^2)=\underset{i=1}{\overset{m}{\mathrm{\Π}}}N\left(U_i\right|0,{\mathrm{\σ}}_U^{2}I)---\left(7\right)$$p\left(V\right|{\mathrm{\σ}}_V^2)=\underset{j=1}{\overset{m}{\mathrm{\Π}}}N\left(V_j\right|0,{\mathrm{\σ}}_V^{2}I)---\left(8\right)$$p\left(Z\right|{\mathrm{\σ}}_Z^2)=\underset{k=1}{\overset{m}{\mathrm{\Π}}}N\left(Z_k\right|0,{\mathrm{\σ}}_Z^{2}I)---\left(9\right)$其中N(x|μ,σ²)表示均值为μ，方差为σ²的高斯分布的概率密度函数，I表示单位矩阵；S2.基于假设的潜在特征向量，分别求解R和S的条件概率分布；在给定用户u_i、服务v_j的潜在特征向量U_i，V_j后，用户u_i对服务v_j的评分值r_ij满足均值为方差为的正态分布且相互独立；评分矩阵R的条件概率分布如公式(10)所示：$p\left(R\right|U,V,{\mathrm{\σ}}_R^2)=\underset{i=1}{\overset{m}{\mathrm{\Π}}}\underset{j=1}{\overset{n}{\mathrm{\Π}}}{\[N\left(r_{ij}\right|g\left(U_i^T{V}_j\right),{\mathrm{\σ}}_R^2)\]}^{I_{lj}^R}---\left(10\right)$其中是指示函数，当用户u_i评分过服务v_j，否则，g(x)＝1/(1+e^‑x)是逻辑斯蒂函数，将值映射到[0,1]；同理，在给定潜在特征向量U_i，Z_k后，信任矩阵S的条件概率分布如公式(11)所示：$p\left(S\right|U,Z,{\mathrm{\σ}}_S^2)=\underset{i=1}{\overset{m}{\mathrm{\Π}}}\underset{k=1}{\overset{m}{\mathrm{\Π}}}{\[N\left(s_{ik}\right|g\left(U_i^T{Z}_k\right),{\mathrm{\σ}}_S^2)\]}^{I_{ik}^S}---\left(11\right)$其中，是指示函数，当用户u_i与z_k有关联关系时，否则，S3.以最大化联合后验概率为目标函数求解U，V，Z的后验分布函数；具体公式如(12)所示：$\begin{array}{c}\ln p(U,V,Z|S,R,{\mathrm{\σ}}_S^2,{\mathrm{\σ}}_R^2,{\mathrm{\σ}}_U^2,{\mathrm{\σ}}_V^2,{\mathrm{\σ}}_Z^2)=\\ -\frac{1}{2{\mathrm{\σ}}_R^2}\underset{i=1}{\overset{m}{\mathrm{\Σ}}}\underset{j=1}{\overset{n}{\mathrm{\Σ}}}{I}_{ij}^R{(r_{ij}-g(U_i^T{V}_j\left)\right)}^2\\ -\frac{1}{2{\mathrm{\σ}}_S^2}\underset{i=1}{\overset{m}{\mathrm{\Σ}}}\underset{k=1}{\overset{m}{\mathrm{\Σ}}}{I}_{ik}^S{(s_{ik}-g(U_i^T{Z}_k\left)\right)}^2\\ -\frac{1}{2{\mathrm{\σ}}_U^2}\underset{i=1}{\overset{m}{\mathrm{\Σ}}}{U}_i^T{U}_i-\frac{1}{2{\mathrm{\σ}}_V^2}\underset{j=1}{\overset{n}{\mathrm{\Σ}}}{V}_j^T{V}_j-\frac{1}{2{\mathrm{\σ}}_Z^2}\underset{k=1}{\overset{m}{\mathrm{\Σ}}}{Z}_k^T{Z}_k\\ -\frac{1}{2}\left(\right(\underset{i=1}{\overset{m}{\mathrm{\Σ}}}\underset{j=1}{\overset{n}{\mathrm{\Σ}}}{I}_{ij}^R){\mathrm{ln\σ}}_R^2+\left(\underset{i=1}{\overset{m}{\mathrm{\Σ}}}\underset{k=1}{\overset{m}{\mathrm{\Σ}}}{I}_{ik}^S\right){\mathrm{ln\σ}}_S^2)\\ =\frac{1}{2}(ml{\mathrm{ln\σ}}_U^2+nl{\mathrm{ln\σ}}_V^2+ml{\mathrm{ln\σ}}_Z^2)+C\end{array}---\left(12\right)$其中，C是常量；最大化公式(12)可视为无约束优化问题，最小化公式(13)等价于最大化公式(12)：$\begin{array}{c}E(R,S,U,V,Z)=\\ \frac{1}{2}\underset{i=1}{\overset{m}{\mathrm{\Σ}}}\underset{j=1}{\overset{n}{\mathrm{\Σ}}}{I}_{ij}^R{(r_{ij}-g(U_i^T{V}_j\left)\right)}^2+\frac{{\mathrm{\λ}}_S}{2}\underset{i=1}{\overset{m}{\mathrm{\Σ}}}\underset{k=1}{\overset{m}{\mathrm{\Σ}}}{I}_{ik}^S{(s_{ik}-g(U_i^T{Z}_k\left)\right)}^2\\ +\frac{{\mathrm{\λ}}_U}{2}\left|\right|U|{|}_F^2+\frac{{\mathrm{\λ}}_V}{2}|\left|V\right|{|}_F^2+\frac{{\mathrm{\λ}}_Z}{2}\left|\right|Z|{|}_F^2\end{array}---\left(13\right)$其中${\mathrm{\λ}}_S={\mathrm{\σ}}_R^2/{\mathrm{\σ}}_S^2,{\mathrm{\λ}}_U={\mathrm{\σ}}_R^2/{\mathrm{\σ}}_U^2,{\mathrm{\λ}}_V={\mathrm{\σ}}_R^2/{\mathrm{\σ}}_V^2,{\mathrm{\λ}}_Z={\mathrm{\σ}}_R^2/{\mathrm{\σ}}_Z^2,$||·||_F是弗罗贝尼乌斯范数；S4.基于梯度下降法求解潜在特征向量；公式(13)的局部最小值可由梯度下降法求得；参数U_i，V_j，Z_k的梯度下降公式如下所示：$\begin{array}{c}\frac{\∂E}{\∂U_i}=\underset{j=1}{\overset{n}{\mathrm{\Σ}}}{I}_{ij}^R{g}^{\′}\left(U_i^T{V}_j\right)\left(g\right(U_i^T{V}_j)-r_{ij})V_j\\ +{\mathrm{\λ}}_S\underset{k=1}{\overset{m}{\mathrm{\Σ}}}{I}_{ik}^S{g}^{\′}\left(U_i^T{Z}_k\right)\left(g\right(U_i^T{Z}_k)-s_{ik})Z_k+{\mathrm{\λ}}_U{U}_i\end{array}---\left(14\right)$$\frac{\∂E}{\∂V_j}=\underset{i=1}{\overset{m}{\Σ}}{I}_{ij}^R{g}^{\′}\left(U_i^T{V}_j\right)\left(g\right(U_i^T{V}_j)-r_{ij})U_i+{\mathrm{\λ}}_V{V}_j---\left(15\right)$$\frac{\∂E}{\∂Z_k}={\mathrm{\λ}}_S\underset{i=1}{\overset{m}{\mathrm{\Σ}}}{I}_{ik}^S{g}^{\′}\left(U_i^T{Z}_k\right)\left(g\right(U_i^T{Z}_k)-s_{ik})U_i+{\mathrm{\λ}}_Z{Z}_k---\left(16\right)$(32)根据潜在特征向量U_i和V_j重构得到r_ij；根据用户潜在特征向量U_i和服务潜在特征向量V_j，采用公式(17)重构得到r_ij；$r_{ij}=U_i^T{V}_j---\left(17\right)$(33)根据重构得到的评分矩阵进行服务推荐根据步骤(32)补全评分矩阵中的空缺项，并依据评分值大小向目标用户推荐相应的服务。