[发明专利]基于噪声适配网络的光通信系统端到端优化方法和系统

说明书

本发明提供了一种基于噪声适配网络的光通信系统端到端优化方法和系统，包括：设计了一种噪声适配网络，用来模拟真实的物理信道，并在发送端和接收端分别使用一个神经网络代替传统的独立通信模块，实现这些模块的全部功能，通过噪声适配网络和收发端神经网络的交替训练，噪声适配网络不断逼近实际的物理信道，而收发端神经网络基于噪声适配网络进行联合训练，使系统性能不断提升，直至收敛。与传统的接收端均衡方案和间接方式实现的收发端联合均衡方案相比，本发明不仅进一步降低了误码率，提升了系统的接收灵敏度，而且大幅降低了接收端均衡器的复杂度。

技术领域

本发明涉及光通信技术领域，具体地，涉及一种基于噪声适配网络的光通信系统端到端优化方法和系统。

背景技术

在传统光通信系统中，发射机和接收机是由几个独立的通信模块组成，每个模块执行一个单独的信号处理任务，例如编码/解码、调制/解调和均衡等。这种实现方式允许设计者对系统中的每个模块进行单独优化和调控，例如通过在发送端设计不同的调制方式，或者在接收端使用不同的均衡算法等，以对系统性能进行改进，降低误码率，提升接收灵敏度。因此模块化设计的独立性和便捷性使之成为构建光通信链路和系统的广泛方式。

但是这种方法得到的系统性能往往是次优的。因为光通信链路中的损伤比较复杂，在短距光通信系统中，链路损伤不仅有器件带限、光纤色散等线性损伤，还有非线性损伤，如调制器的非线性响应、光电探测器的平方律检测等，所以很难确定各个通信模块的最佳状态或设计出最佳的均衡器。因此，研究人员对端到端通信系统展开了广泛研究，其基本原理是对信道进行建模以获得可微分信道，实现梯度反向传播，通常有基于模型建模和基于数据建模两种方式，然后在收发端分别设置一个神经网络代替独立通信模块，构成自动编码器架构，基于建模信道对收发端神经网络进行联合训练，从而实现端到端通信系统的优化。

然而，现有的端到端通信系统优化方案仍存在一些不足。首先，在信道建模方面，通常选用生成对抗网络进行建模，建模过程比较复杂，而且在信道发生变化时，重新建模的代价较高；其次，对于收发端神经网络训练过程的设计不够合理，导致系统性能提升有限，而且不能调控收发端神经网络的复杂度。

发明内容

针对现有技术中的缺陷，本发明的目的是提供一种基于噪声适配网络的光通信系统端到端优化方法和系统。

根据本发明提供的基于噪声适配网络的光通信系统端到端优化方法，包括：

步骤S1：初始化发端神经网络TxNN、收端神经网络RxNN以及用于建模信道的噪声适配网络，初始化记忆缓存区以存储用于信道建模的数据；

步骤S2：将光通信系统发送的符号经过发端神经网络处理后得到发端信号，然后经过实际的物理信道传输后得到收端信号，将发端信号与收端信号存入记忆缓存区；

步骤S3：从记忆缓存区中随机抽取多组发端信号与对应的收端信号，以发端信号作为噪声适配网络的输入数据，收端信号作为标签，以最大化似然函数为目标，对噪声适配网络进行训练，拟合实际的物理信道；

步骤S4：固定噪声适配网络不训练，光通信系统发送的符号依次经过发端神经网络、噪声适配网络以及收端神经网络，以最小化约束性损失函数和端到端损失函数为目标，对发端神经网络和收端神经网络进行训练；

步骤S5：重复步骤S3和步骤S4，使噪声适配网络与收发端神经网络交替训练，直到损失函数全部收敛；

步骤S6：固定发端神经网络不训练，利用实际物理信道上收发数据对收端神经网络进行微调，补偿由信道建模精度不足引起的信号残余损伤。

优选的，所述步骤S1包括：

步骤S11：定义发端神经网络的结构为多尺度全连接神经网络MscaleDNN，收端神经网络的结构为单层全连接神经网络，并初始化网络参数；