[发明专利]一种非均匀量化下基于卷积神经网络的混合预编码方法

说明书

本发明公开了一种非均匀量化下基于卷积神经网络的混合预编码方法，本发明首先通过构造的非均匀量化的模拟预编码码本，以此降低功率消耗。然后将最优的模拟预编码作为构建神经网络中输入信道参数训练模拟预编码的标签。在此基础上，构建神经网络训练数据集，并对提出的神经网络进行训练和预测，获得的模拟预编码，可以降低计算复杂度和功率消耗，并提高频谱效率。

技术领域

本发明属于通信技术领域，特别涉及一种非均匀量化下基于卷积神经网络的 混合预编码方法。

背景技术

近年来，毫米波Massive-MIMO技术引起了广泛的关注和研究。毫米波 Massive-MIMO通信系统中，受能耗和成本等因素限制，设计合理的混合预编码 技术兼顾硬件成本和运算复杂度的研究，成为近年来国内外研究的热点。

现有混合预编码技术中，模拟预编码的目的是抵抗毫米波路径的损耗，在射 频端利用较多数目的模拟移相器构成的网络实现。在模拟预编码设计过程中，常 采用均匀量化的移相器实现，使得能量效率未能充分利用，并且移相器通常满足 恒模约束条件，极大的增加了模拟预编码的设计难度。采用非均匀量化的方式实 现模拟预编码，可以充分利用其能量效率，但算法复杂度较高。

发明内容

本发明的目的是提供一种非均匀量化下基于卷积神经网络的混合预编码方 法，该方法通过利用信道传输矩阵中不同波束的权重系数，将原信道重构为波 瓣形式的毫米波信道模型，并根据各个波瓣权重系数分配移相器的量化比特， 进而构造非均匀量化的模拟预编码码本，并降低功率消耗。然后以此模拟预编 码作为相应信道传输系数的标签，构建出神经网络的训练数据集，并根据训练 数据集训练预测出模拟预编码，以此降低计算复杂度。

本发明的技术方案是，一种非均匀量化下基于卷积神经网络的混合预编码方 法，包括以下步骤：

(S1)建立单用户混合预编码MIMO模型；

(S2)获得毫米波信道模型；

(S3)获得单用户的下行传输场景下优化模拟预编码的目标函数；

(S4)构造非均匀量化的模拟预编码码本；

(S5)利用非均匀量化的模拟预编码的码本求解最优的模拟预编码；

(S6)采用步骤(S1)至(S5)构造训练数据集，并采用训练数据集对卷积神经网 络模型进行训练，得到预测模型；在训练数据集的每个样本中，信道矩阵为输入 数据，对应的模拟预编码为样本标签；

(S7)将信道矩阵输入预测模型中，得到预测的模拟预编码。

本发明的进一步改进在于，步骤(S1)中，单用户混合预编码MIMO模型的表 达式为：

其中：表示用户的接收信号；毫米波信道传输矩阵；P为基站 发射功率，是基带数字预编码矩阵，为模拟预编码矩阵； 和分别为模拟合并器和数字合并器；为噪声向 量，服从复高斯分布，即其中σ²为噪声方差，为N_r×N_r维单 位矩阵。

本发明的进一步改进在于，步骤(S2)中，毫米波信道模型的表达式为：

式中：P为空间波瓣数，Q为空间波瓣中的子路径数，满足PQ＝N_clN_ray；α_m,n是第m个空间波瓣中第n个子路径的路径增益，并且服从瑞利分布；为每组中 路径的平均角度，将空间波瓣的平均角度设置为 以避免空间波瓣角重叠，其中θ_co是在[0,2π)内随机选 择的常数，并且每个空间波瓣中的子路径角度θ_m,n以有限的角度扩展随机分布， 和为对应发射端和接收端阵列响应矢量。