[发明专利]一种非均匀量化下基于卷积神经网络的混合预编码方法

权利要求书

1.一种非均匀量化下基于卷积神经网络的混合预编码方法，包括以下步骤：

(S1)建立单用户混合预编码MIMO模型；

(S2)获得毫米波信道模型；

(S3)获得单用户的下行传输场景下优化模拟预编码的目标函数；

(S4)构造非均匀量化的模拟预编码码本；

(S5)利用非均匀量化的模拟预编码的码本求解最优的模拟预编码；

(S6)采用步骤(S1)至(S5)构造训练数据集，并采用训练数据集对卷积神经网络模型进行训练，得到预测模型；在训练数据集的每个样本中，信道矩阵为输入数据，对应的模拟预编码为样本标签；

(S7)将信道矩阵输入预测模型中，得到预测的模拟预编码。

2.根据权利要求1所述的一种非均匀量化下基于卷积神经网络的混合预编码方法，其特征在于，步骤(S1)中，单用户混合预编码MIMO模型的表达式为：

其中：表示用户的接收信号；毫米波信道传输矩阵；P为基站发射功率，是基带数字预编码矩阵，为模拟预编码矩阵；和分别为模拟合并器和数字合并器；为噪声向量，服从复高斯分布，即其中σ²为噪声方差，为N_r×N_r维单位矩阵。

3.根据权利要求2所述的一种非均匀量化下基于卷积神经网络的混合预编码方法，其特征在于，步骤(S2)中，毫米波信道模型的表达式为：

式中：P为空间波瓣数，Q为空间波瓣中的子路径数，满足PQ＝N_clN_ray；α_m,n是第m个空间波瓣中第n个子路径的路径增益，并且服从瑞利分布；为每组中路径的平均角度，将空间波瓣的平均角度设置为以避免空间波瓣角重叠，其中θ_co是在[0,2π)内随机选择的常数，并且每个空间波瓣中的子路径角度θ_m,n以有限的角度扩展随机分布，和为对应发射端和接收端阵列响应矢量。

4.根据权利要求3所述的一种非均匀量化下基于卷积神经网络的混合预编码方法，其特征在于，步骤(S3)中模拟预编码的目标函数的表达式为：

式中为模拟预编码的可行集，满足恒模约束。

5.根据权利要求4所述的一种非均匀量化下基于卷积神经网络的混合预编码方法，其特征在于，步骤(S4)中，利用毫米波在角域中的稀疏性，根据重构信道传输矩阵中不同波瓣的权重系数，分配不同精度的移相器量化，进而构造非均匀量化的模拟预编码码本，其包括以下步骤：

(S401)定义第m个空间波瓣覆盖范围为：

式中：θ_m,n为第m个空间波瓣中第n子路径的角度，Cover(a(θ_m,n))为在第m个空间波瓣的第n子路径波束覆盖范围；对于第m个空间波瓣量化的角度范围设计为ω_m为波瓣拓展角度；

(S402)在的条件下，其中为第m个空间波瓣的角度范围，根据各个波瓣拓展角度ω_m分配移相器量化比特，其表达式为：

其中：设定为π/P，第m个空间波瓣量化精度为第m个空间波瓣的非均匀量化的码本为：

其中：为基站发射天线的索引，为第m个空间波瓣的量化矢量矩阵。