[发明专利]变换集合生成方法和装置、机器可读存储介质和机器设备

说明书

本发明提供了一种视频预测残差块的变换集合生成方法。所述变换集合生成方法包括：根据原始视频帧产生多个最优预测残差块；根据所述多个最优预测残差块获取基于调整偏差的子空间近似变换集合；将所述基于调整偏差的子空间近似变换集合存储于视频编码器和/或视频解码器中；将所述基于调整偏差的子空间近似变换集合集成到所述视频编码器和/或所述视频解码器的变换集合中。本发明还提供了一种视频预测残差块的变换集合生成装置、机器可读存储介质以及机器设备。本发明通过将所获取的基于调整偏差的子空间近似变换集合与已有的变换集合集成一个新的变换集合，从而进一步提高现有的变换集合的变换性能。

技术领域

本发明属于信号处理技术领域，具体地讲，涉及一种视频预测残差块的变换集合生成方法、视频预测残差块的变换集合生成装置、机器可读存储介质以及机器设备。

背景技术

目前，广泛应用的混合视频编码框架由预测编码模块、变换编码模块和熵编码模块三个模块构成。其中，预测编码模块包括帧内预测编码模块和帧间预测编码模块，这样，通过帧内预测编码模块和帧间预测编码模块来挖掘空间相邻块和时序连续帧间相关性，消除视频帧空间和时间冗余。预测残差块经过变换编码和熵编码压缩为码流进行存储和传输。

KLT(Karhunen-Loeve Transform)具有最优能量集中性和去相关性，通过计算每个预测残差块协相关矩阵并分解得到变换核。然而，KLT的计算代价和存储代价限制了其广泛应用和推广。当预测残差符合一阶马尔科夫过程时，离散余弦变换(Discrete CosineTransform，简称DCT)或离散正弦变换(Discrete Sine Transform，简称DST)的变换性能逼近于KLT，整数DCT和DST成为视频编码器中主要变换。然而，DCT变换核固定，难以适应于多种多样视频帧的内容的预测残差。

目前，变换集合的生成和部署主要依赖于大规模编解码实验。预测残差分布与视频帧和预测编码模式相关，视频帧的内容和预测编码模块采用的预测编码模式的多样性导致预测残差分布多样，多个变换相比于单个变换更能够适应预测残差的多样性，减少预测残差变换系数所需编码比特数。考虑多个变换核能够更好适应预测残差块内容的多样性，基于DCT/DST的多变换选择变换方案被最新的编码标准采纳。考虑DCT和KLT可以捕获到多种多样内容纹理模式，最新得视频编码标准将多变换选择变换方案和基于KLT的不可分二级变换进行联合应用。

数据驱动变换能够平衡KLT和DCT变换性能和计算存储代价之间的矛盾。在卷积神经网络广泛应用背景下，研究工作者提出了一种数据驱动、多层级联和不可分的变换，即基于调整偏差的子空间近似(Subspace Approximation with Adjusted Bias，简称Saab)变换，Saab变换能够捕获不同预测残差块的多样性。然而，在现有技术的视频编码器中，尚未考虑生成一个或多个Saab变换，并将其与已有的预测残差块变换集合进行集成，从而进一步提高现有变换集合的变换性能。

发明内容

为了解决上述现有技术存在的技术问题，本发明的目的在于提供一种视频预测残差块的变换集合生成方法、视频预测残差块的变换集合生成装置、机器可读存储介质以及机器设备。

根据本发明的一方面提供的视频预测残差块的变换集合生成方法，其包括：根据原始视频帧产生多个最优预测残差块；根据所述多个最优预测残差块获取基于调整偏差的子空间近似变换集合；将所述基于调整偏差的子空间近似变换集合存储于视频编码器和/或视频解码器中；将所述基于调整偏差的子空间近似变换集合集成到所述视频编码器和/或所述视频解码器的变换集合中。

进一步地，在根据本发明的一方面提供的视频预测残差块的变换集合生成方法中，所述根据原始视频帧产生多个最优预测残差块，包括：获取所述原始视频帧的被编码单元在各个预测模式下的各个预测残差块，所述原始视频帧包括多个所述被编码单元；将所述被编码单元对应的各个预测残差块中函数值最小的预测残差块确定为所述被编码单元对应的最优预测残差块。