[发明专利]提高数字信号变换性能的方法及数字信号变换方法和装置

说明书

本发明提出一种提高数字信号变换性能的方法和装置及数字信号变换方法和装置，其中，提高数字信号变换性能的方法包括：构造N行N列的变换核矩阵A，使所述变换核矩阵A同时满足(a)和(b)两个条件：(a)[DCT(i,j)×Factor]‑2≤A(i,j)≤[DCT(i,j)×Factor]+2(b)J(A)＜TH；其中，本发明能够保证数字信号处理具有更高的变换性能。

本申请为申请号为201310238184.0、发明名称为“提高数字信号变换性能的方法及数字信号变换方法和装置”的发明专利申请的分案申请。

技术领域

本发明涉及数字信号处理技术领域，尤其涉及一种提高数字信号变换性能的方法和装置及数字信号变换方法和装置。

背景技术

视频和图像编码技术作为一种数字信号处理方式，是数字视频和图像这一重要多媒体信息得以被广泛应用的基础和关键。当前基于块的视频编码混合框架下，视频编码一般包括以下四大块：预测编码、变换以及量化、熵编码、环路滤波。在编码端，编码器对预测编码后的残差块/矩阵进行变换得到变换系数块/矩阵，变换系数块/矩阵再经过量化后得到量化系数块/矩阵，最后对量化系数块/矩阵进行熵编码得到最终的码流；在解码端，解码器首先对码流进行熵解码得到量化系数块/矩阵，然后对量化系数块进行反量化得到变换系数块/矩阵，变换系数块/矩阵经过反变换后就得到了重建残差块/矩阵，最后解码器根据重建残差和预测值就能得到解码后的重建图像。由于在解码端，进行反变换的变换系数块/矩阵是通过反量化得到的，因此也可以称为反量化系数块/矩阵。在这一编解码过程中，变换的主要功能在于去除预测残差之间的相关性，集中残差能量，有利于后续的熵编码，从整体上提高视频编码的效率。在上述描述中，“块/矩阵”表示两种表述方式，二者所指的物理含义相同。例如，“残差块/矩阵”表示两种表述方式，即残差块或残差矩阵。

在JPEG、MPEG-1/2/4、H.261等视频图像编码标准中，主要采用了浮点的离散余弦变换(DCT)，在实际实现中，不同的硬件产品关于浮点数的运算精度不一样，从而在这些标准下的编解码器之间可能会出现失配现象。鉴于此，在H.264/AVC、H.265以及国内视频编码标准AVS1和AVS2中都采用了整数化的变换。在H.264/AVC和AVS中，变换核中所有数值都是整数，各数值之间的比例与DCT矩阵无直接联系，且各变换基的模不尽相同，从而变换过程中引入了缩放运算以及相应的(预)缩放矩阵。在H.264/AVC和AVS中变换最大为8x8大小，引入缩放运算不会带来很多的运算复杂度和存储复杂度，在整体上能简化变换过程的运算；然而当变换大小变得很大时，比如32x32和64x64，此时如果引入缩放运算，其带来的运算、存储复杂度相当大，故在最新一代的国际/内标准H.265和AVS2中，整数化的DCT变换被采用，这类变换的变换核矩阵A是通过带无理数的DCT矩阵乘以一个倍数(Factor)得到，如式(1)所示。

A＝int{DCT×Factor} (1)

其中DCT为无理数的DCT矩阵，其表达式可用公式(2)所示，“int”是取整函数。当Factor相同时，如果取整函数不一样，所得到的变换核矩阵A也是不一样的。不同的Factor和取整函数，可以得到变换性能(去相关能力、变换基的正交程度和归一程度所影响的变换失真)不同的变换核矩阵。所以取整函数的设计对整个变换的影响非常大。

其中变换核矩阵的大小为N×N。

现有的H.265中的各个变换核矩阵的性能尚存在改善的空间，尤其是变换基的正交程度和归一程度尚待提高；而当前尚在制定的AVS2标准中，其变换核在去相关能力上也需要提高，变换核带来的变换失真也需要降低。

当变换核矩阵确定后，变换过程的设计也对性能有着莫大的影响。在当前的AVS2草案中，其变换过程中的数据位宽会超过32-bit，位宽的设计尚缺完美。