[发明专利]隐私性增强的联合学习系统

说明书

一种用户设备，包括：处理器，用于：下载主机器学习模型，其中，所述主机器学习模型用于生成与所述用户设备的应用程序的使用相关的用户推荐；使用所述主机器学习模型和与所述用户设备的用户或与所述用户设备的用户交互中的一个或多个相关的数据来计算所述主机器学习模型的模型更新；使用ε‑差分隐私机制对所述计算出的模型更新进行编码；发送ε‑差分隐私编码后的模型更新。通过将ε‑差分隐私(Differential Privacy，简称DP)应用到从所述用户设备上传到后端服务器的模型更新，增强了联合学习系统的隐私性。因为所述模型更新被散列和随机化，并且不能被单独解码以了解有关所述用户的任何信息，因此进一步增强了所述用户的隐私性。

技术领域

本公开的各个方面总体上涉及联合学习系统和联合推荐系统，更具体地涉及增强联合学习或推荐系统中的数据的隐私性。

背景技术

联合学习和联合推荐系统已经被证明具有高水平的固有用户隐私保护质量。这主要是由于在用户设备或装备上保留用户数据，也在该用户设备中生成用户推荐。联合学习或推荐系统中用户隐私性最容易降低的部分在于对在用户设备和后端服务器之间移动的模型更新的访问。

虽然已经提出了根据安全聚合技术的不同方法来解决这些系统中与用户数据保护相关的问题，但是这些方法通常需要一种例如涉及密钥共享之类的安全措施的成对的(在用户之间的)安全通信信道的复杂系统。这需要额外的基础设施、资源和不同流程的管理。就用户退出而言，这些方法也可能鲁棒性不强。

因此，期望能够提供一种解决上述至少一些问题的系统。

发明内容

所公开实施例的目的是提供一种增强联合学习的隐私性的装置和方法。该目的通过独立权利要求书的主旨得以实现。可以在独立权利要求书中找到进一步有利的修改。

根据第一方面，由用户设备获得上述和进一步的目的和优点。在一实施例中，所述用户设备包括：处理器，用于：下载主机器学习模型，其中，所述主机器学习模型用于生成与所述用户设备的应用程序的使用或与所述用户设备的应用程序的交互中的一个或多个相关的用户推荐；使用所述主机器学习模型和与所述用户设备的用户或与所述用户设备的用户交互中的一个或多个相关的数据来计算所述主机器学习模型的模型更新；使用ε-差分隐私机制对所述计算出的模型更新进行编码；以及发送ε-差分隐私编码后的模型更新。所公开实施例的各个方面通过将ε-差分隐私(Differential Privacy，简称DP)应用到从所述用户设备上传到后端服务器的模型更新，增强了联合学习系统的隐私性。因为所述模型更新被散列和随机化，并且不能被单独解码以了解有关所述用户的任何信息，因此进一步增强了所述用户的隐私性。所公开实施例的各个方面不需要额外的基础设施或通信信道，也不需要在各个用户之间共享密钥/数据，并且不需要管理加密密钥，从而减少了所需的计算资源量。

在根据第一方面所述的用户设备的一种可能的实现方式中，所述下载的主机器学习模型是协同过滤器(collaborative filter，简称CF)模型或联合学习协同过滤器模型中的一个或多个。所公开实施例的各个方面可以应用到联合学习模式下的通用的机器学习算法集合，以及更具体的过滤器模型。

在根据第一方面本身或先前可能的实现方式所述的用户设备的一种可能的实现方式中，所述处理器用于根据所述下载的主机器学习模型和所述与所述用户设备的用户或与所述用户设备的用户交互中的一个或多个相关的数据，生成所述与所述应用程序的使用相关的用户推荐。所公开实施例的各个方面通过在用户设备中生成推荐来最小化暴露用户数据的风险。

在所述装置的另一种可能的实现方式中，所述应用程序是视频服务。所公开实施例的各个方面在所述用户使用个性化推荐时提供了高水平的用户隐私性，其中，所述个性化推荐根据视频偏好选择、用户人口统计和/或性别数据、或其先前通过所述服务已经选择和/或观看的视频，向所述用户推荐视频选择。