[发明专利]帧内预测的码率控制方法

权利要求书

1.一种帧内预测的码率控制方法，采用R-λ模型，包括以下步骤：

步骤1、将视频中用于帧内编码的帧分成多个编码树单元；

步骤2、将所述多个编码树单元输入至预训练的卷积神经网络中，经运算得到所述多个编码树单元中每一个的模型参数；

步骤3、根据所述模型参数对所述多个编码树单元进行比特分配；得到所述多个编码树单元中每一个的目标比特数，完成所述帧内预测的码率控制，所述步骤3包括：

步骤31、根据所述模型参数，采用二分法得到帧级别的拉格朗日乘子；

步骤32、根据所述帧级别的拉格朗日乘子计算得到所述多个编码树单元中每一个的初始比特分配数；

步骤33、根据所述每一个编码树单元的初始比特分配数，及编码所述多个编码树单元中的每一个之前实际剩余的比特数，得到所述多个编码树单元中每一个的目标比特数，完成所述帧内预测的码率控制。

2.如权利要求1所述的帧内预测的码率控制方法，其中，所述R-λ模型为：

λ＝α·R^β；

其中，λ为拉格朗日乘子，R为编码比特值；α及β为所述的模型参数。

3.如权利要求2所述的帧内预测的码率控制方法，其中，所述步骤33具体包括以下步骤：

设定所述多个编码树单元中第一个的目标比特数为其初始比特分配数；

后续的每一个编码树单元的目标比特数表示为：

其中，i表示第i个编码树单元，表示第i个编码树单元的初始比特分配数；表示自第i个编码树单元开始、剩余编码树单元的初始比特分配数的总和；表示编码该第i个编码树单元前，当前剩余的目标比特数；SW表示滑动窗口值。

4.根据权利要求3所述的帧内预测的码率控制方法，其中，所述滑动窗口值SW＝4。

5.如权利要求2所述的帧内预测的码率控制方法，其中，所述步骤31具体包括以下步骤：

采用二分法迭代求解如下方程，得到所述帧级别的拉格朗日乘子；

其中，N_f为所述用于帧内编码的帧中当前帧分成的多个编码树单元的总数目；R_f表示当前帧的目标比特数；及为所述模型参数的变形值，λ_f为所述帧级别的拉格朗日乘子；其中，所述多个编码树单元的拉格朗日乘子为所述帧级别的拉格朗日乘子。

6.如权利要求5所述的帧内预测的码率控制方法，其中，所述多个编码树单元中每一个的初始比特分配数表示为：

7.如权利要求2所述的帧内预测的码率控制方法，其中，对于边缘非标准大小的编码树单元，在所述步骤2之前，填充到标准大小后再输入到所述预训练的神经网络中，经运算得到的模型参数为填充后编码树单元的模型参数，根据所述填充后编码树单元的模型参数及一校正因子得到所述边缘非标准大小的编码树单元的模型参数。

8.如权利要求7所述的帧内预测的码率控制方法，其中，根据所述填充后编码树单元的模型参数及一校正因子得到所述边缘非标准大小的编码树单元的模型参数时，采用以下公式：

α^(a)＝α^(b)·S_ab；

β^(a)＝β^(b)；

其中，α^(a)、β^(a)为所述边缘非标准大小的编码树单元的模型参数；α^(b)、β^(b)为所述填充后编码树单元的模型参数，S_ab为所述校正因子。

9.根据权利要求8所述的帧内预测的码率控制方法，其中，所述校正因子为：

其中，为所述边缘非标准大小的编码树单元的大小；为所述填充后编码树单元的大小。