[发明专利]一种毫米波大规模MIMO系统中的混合预编码设计方法

权利要求书

1.一种毫米波大规模MIMO系统中的混合预编码设计方法，其特征在于，所述毫米波大规模MIMO系统中，包含N_s个数据流的发射信号s在发射端通过数字预编码模块进行数字预编码处理后，传输至由条射频链、移相器和射频相加器构成的模拟预编码模块，由模拟预编码模块进行模拟预编码处理后，将数据流映射到N_t根发射天线上，并发送至加噪的波瓣分解信道进行数据传输，接收端通过N_r根接收天线接收数据，并依次经过模拟合并模块及数字合并模块进行处理，得到接收信号y，实现包含多个数据流的多路径数据传输；所述方法包括如下步骤：

步骤一：为最大化系统的频谱效率，优化数字预编码模块、模拟预编码模块及模拟合并模块、数字合并模块的设计，将包含模拟预编码矩阵、数字预编码矩阵、模拟合并器矩阵及数字合并器矩阵的混合预编码设计过程中含有非凸约束的优化问题转化为求解欧式距离最小的问题；

步骤二：由于波瓣之间的独立性，波瓣信道被分解为L个独立的波瓣子信道，将步骤一中求解欧式距离最小的问题简化为针对每个波瓣子信道的混合预编码设计，并针对每个波瓣子信道分别设计模拟预编码矩阵和数字预编码矩阵；

步骤三：求解每个波瓣子信道对应的模拟预编码矩阵与数字预编码矩阵选择每个波瓣子信道的天线阵列响应A_tl作为预编码参考矩阵F_res，根据模拟预编码模块中移相器的硬件限制，构建模拟预编码码本；并在每个模拟预编码码本中搜索最佳码字所在位置，得到模拟预编码矩阵的自有支撑集Ψ_l；

步骤四：为求解步骤三中每个波瓣子信道对应的模拟预编码矩阵的自有支撑集Ψ_l，引入联合稀疏方法，利用模拟预编码矩阵和数字预编码矩阵之间的相关性，并根据数字预编码矩阵的隐含稀疏结构，计算预编码参考矩阵F_res在模拟预编码码本上的投影，记录使F_res具有强投影的码字所在位置，从而得到不同数据流的模拟预编码矩阵之间的共有支撑集每个数据流对应的模拟预编码矩阵的自有支撑集Ψ_lp，由和Ψ_lp构成Ψ_l；

步骤五：根据每个波瓣子信道对应的模拟预编码矩阵的自有支撑集Ψ_l优化模拟预编码矩阵的列向量分布，得到模拟预编码矩阵同理得到模拟合并器矩阵相应的，Ψ_l体现了模拟预编码矩阵与数字预编码矩阵之间的关联性，故通过对等效子信道进行奇异值分解，得到可获得数字预编码矩阵使数字预编码矩阵行向量与模拟预编码矩阵列向量之间一一对应，实现混合预编码的联合优化；

步骤六：重复所述步骤一至所述步骤五，设计每个波瓣子信道对应的模拟预编码矩阵的自有支撑集，得到模拟预编码矩阵F_RF的自有支撑集Ψ＝{Ψ₁，Ψ₂，...，Ψ_L}；则模拟预编码矩阵同理可得模拟合并器矩阵相应的，数字预编码矩阵为数字合并器矩阵为

2.根据权利要求1所述的混合预编码设计方法，其特征在于，所述方法的步骤一中，

在波瓣分解信道模型下，接收信号y为：

将高斯信号作为发射信号s，则系统的频谱效率为：

式中，为噪声协方差矩阵；为发射信号向量，且满足F_RF表示维模拟预编码矩阵，F_BB表示维数字预编码矩阵，W_RF表示维的模拟合并器矩阵，W_BB表示维的数字合并器矩阵，F＝F_RFF_BB为混合预编码矩阵，总发送功率满足W＝W_RFW_BB表示合并器矩阵；为信道噪声矢量，σ²是噪声功率，为信道矩阵，ρ表示平均接收功率；以最大化系统的频谱效率为目标，混合预编码设计的公式如下：

式中，Ω是具有恒模约束的模拟预编码码本，且满足