[发明专利]一种单次握手的并发通信网络中的消息聚合系统及方法

说明书

本发明公开了一种单次握手的并发通信网络中的消息聚合系统及方法，属于通信网络中的数据传输的技术领域，所述系统包括发射端和接收端，所述发射端包括下行信道估计与同步模块、本地训练模块、量化模块、码本调制模块和预均衡模块；接收端包括信号检测模块、梯度聚合模块、求平均模块和模型更新模块；所述方法包括发射端信号处理过程、上行传输过程和接收端信号处理过程；本发明利用联邦学习只需得到梯度消息聚合的结果，无需单独计算每个用户消息的特点，多用户采用共同的量化码本和调制码本，同时同频上行传输各自的梯度消息，实现多用户梯度消息的高效聚合，降低联邦学习中的通信资源开销。

技术领域

本发明涉及通信网络中的数据传输领域，具体涉及一种单次握手的并发通信网络中的消息聚合系统及方法。

背景技术

传统的机器学习将用户数据集中到中心节点，利用海量计算资源进行中心式学习。然而，中心式机器学习存在用户隐私数据泄露的风险，同时面临海量数据传输开销大的问题。随着用户终端智能化程度的提升，分布式机器学习成为可能，从而克服上述缺陷。

联邦学习是一种典型的分布式机器学习框架，一个中心节点与多个用户通过多次消息交互，共同训练一个神经网络。以任意一次消息交互过程为例，多个用户根据各自本地数据集训练得到本地梯度，然后将本地梯度信息发送给中心节点，中心节点对多用户的梯度信息进行聚合，得到全局梯度，完成模型更新，然后将更新后的模型参数反馈到所有用户，开启下一次本地训练和消息交互。由于用户数和梯度向量的维度相当大，联邦学习的消息交互过程将会给通信网络带来巨大的负担。因此，如何以较低的通信开销实现消息交互是亟待解决的关键问题。

发明内容

有鉴于此，本发明提供了一种单次握手的并发通信网络中的消息聚合系统及方法，能够有效降低联邦学习的通信资源开销。

实现本发明的技术方案如下：

一种单次握手的并发通信网络中的消息聚合系统，包括发射端和接收端；

所述发射端包括下行信道估计与同步模块、本地训练模块、量化模块、码本调制模块和预均衡模块；

下行信道估计与同步模块，用于根据中心节点到多用户的下行广播信号进行下行信道估计与时间同步；

本地训练模块，用于每个用户根据本地的数据进行神经网络训练，得到多用户各自的本地梯度；

量化模块，用于根据量化码本将每个用户的本地梯度量化，得到量化码字及量化码字在量化码本中的量化索引；

码本调制模块，用于根据调制码本对量化模块输出的量化值进行码本调制，得到每个量化码字对应的调制码字；

特别的，所有用户采用相同的量化码本和调制码本，且调制码本中的调制码字与量化码本中的量化码字一一对应；

预均衡模块，用于每个用户根据下行信道估计值对调制码字进行发送前的预均衡，得到发送信号；

所述接收端进行多用户的发送信号检测，得到每个调制码字被发送的次数，也就是每个量化码字出现的次数，然后进行梯度聚合和求平均，最终得到全局梯度，完成模型更新。

进一步地，所述量化模块的量化方式为标量量化或矢量量化，当采用标量量化时，本地梯度向量的维度不变，当采用矢量量化时，本地梯度向量的维度得到压缩。

进一步地，所述调制码字在预先分配的时频资源上传输，所有用户分配相同的时频资源，每个调制码字是包含多个标量元素的向量，由于不同子载波（频域资源）对应的信道是不同的，调制码字中的每个元素根据该元素所在子载波对应的信道进行预均衡。

进一步地，所述系统考虑时分双工的情况，因此上下行信道具有互易性，因此根据下行信道估计值对上行传输进行预均衡。

进一步地，所述接收端包括信号检测模块、梯度聚合模块、求平均模块和模型更新模块；