[发明专利]一种编码模式的确定方法、装置、设备和存储介质

说明书

本发明实施例公开了一种编码模式的确定方法、装置、设备和存储介质，其中，该方法包括：将每一编码规格下的编码单元划分出该编码规格相邻的下一编码规格下的变换单元，并计算各变换单元的编码代价；依次对同一编码规格下的编码单元和变换单元进行代价最优化整合，得到最优编码代价下的整体编码模式。本发明实施例提供的技术方案，使得采用该整体编码模式进行视频编码时的编码代价能够达到最低，保证不同视频下所采用的视频编码模式的自适应性，降低视频编码的计算开销，进而提高视频编码速率。

技术领域

本发明实施例涉及视频编码技术领域，尤其涉及一种编码模式的确定方法、装置、设备和存储介质。

背景技术

目前，视频编码通常以编码单元(Coding Unit，CU)为基本单位进行编码的，此时编码单元CU存在64*64、32*32、16*16和8*8四种尺寸，在视频编码过程中均需要从64*64尺寸的CU到8*8尺寸的CU进行四叉树递归尝试，以便选出最优效率下的编码尺寸，此时64*64尺寸的CU所处的递归深度为0，每向下递归一次深度加1，8*8尺寸的CU所处的递归深度为3，同时在每一递归深度上，对当前不递归的CU下的编码代价与当前CU在递归后划分出的4个小CU的编码代价之和进行比对，从而判断该递归深度下是否需要进行递归划分。

每一CU通常包括变换单元(Transform Unit，TU)和预测单元(Prediction Unit，PU)两部分，TU主要考虑到视频编码码率和失真度的影响而执行基本的率失真优化(RateDistortion Optimization，RDO)过程，PU主要尝试在不同预测模式下计算CU递归划分为各个TU后执行RDO过程下的编码代价；如图1所示，PU尝试在每一预测模式(如MERGE/SKIP/2Nx2N/BIDIR/2NxN/Nx2N/2NxnD/2NxnU/nRx2N/nLx2N/Intra2Nx2N/IntraNxN12种)下，得到TU执行过程中的预测数据，进而对所计算出的残差数据进行变换、量化和熵编码得到当前预测模式下的编码码率，同时对量化后的残差数据进行反量化和反变换得到对应的重构数据，进而与原始的残差数据进行比对得到对应的编码失真，进而根据该编码码率和编码失真计算出该预测模式下的编码代价，依此分别计算每一递归深度下当前不递归CU下的编码代价及当前CU在递归后划分出的4个小CU的编码代价之和，从而判断当前CU是否需要进行递归划分；此时从64*64尺寸的CU到8*8尺寸的CU下的每种递归情况均需要基于该CU下划分的TU逐一计算对应的编码代价，造成大量的计算负担，增加了视频编码的资源开销。

因此，为了减少CU在递归划分时TU的计算开销，通常存在如下两种方式：1)采用量化域的系数预估编码失真，同时建立码率模型来预估编码码率，从而无需进行残差数据的反量化和反变换过程，但对编码失真和编码码率预估的准确性要求较高，一旦预估不准确就会造成加大的视频编码损失；2)根据已有编码信息或者计算分析各个TU下的视频纹理以决定是否需要进行递归划分，此时会增加额外的计算量，同时采用统一计算编码代价的方式会损失不同分量下的编码质量。

发明内容

本发明实施例提供了一种编码模式的确定方法、装置、设备和存储介质，降低视频编码的计算开销，保证视频编码模式的自适应性。

第一方面，本发明实施例提供了一种编码模式的确定方法，该方法包括：

将每一编码规格下的编码单元划分出该编码规格相邻的下一编码规格下的变换单元，并计算各所述变换单元的编码代价；

依次对同一编码规格下的编码单元和变换单元进行代价最优化整合，得到最优编码代价下的整体编码模式。

第二方面，本发明实施例提供了一种编码模式的确定装置，该装置包括：

编码划分模块，用于将每一编码规格下的编码单元划分出该编码规格相邻的下一编码规格下的变换单元，并计算各所述变换单元的编码代价；