[发明专利]数字信号处理中的变换的方法和装置

说明书

技术领域

本发明涉及数字信号处理领域，尤其涉及一种数字信号的变换的方法和装置。

背景技术

数字信号处理技术是处理数字信息的基础和关键技术。处理当前的数字信息，如数字视频、数字图像、数字音频等，都需要用到数字信号处理技术。其中变换技术是为了去除信息的相关性，在整个数字信号处理技术中起着重要的作用。

图像编码标准如JPEG、JPEG2000等和视频编码标准MPEG、H.264、AVS以及新一代国际视频编码标准HEVC和即将面世的AVS2等，都用到了变换技术处理数据，其中的变换的理论基础都是离散余弦变换DCT。直观上看，变换的过程是矩阵乘法的过程。但矩阵乘法的复杂度高且随矩阵大小N的增长呈指数增长。大量的研究表明，通过使用一级或者多级的蝶形结构代替矩阵乘法，可以大大减小实现复杂度。文献[1]-[5]中分别提出了基于无理数DCT变换的蝶形结构，这些蝶形结构相似但互不相同，但都能降低实现复杂度，且其蝶形结构对应的变换矩阵是一个包含有无理数的矩阵。近十多年来，由于整数变换有着非常多的优点，已经被广泛应用于各种视频编码标准，如H.264/AVC、HEVC、AVS。文献[6]提出了一种整数变换的蝶形结构，其对应的变换矩阵是一个只包含整数的矩阵，为了保证变换性能，变换矩阵中各个数值都非常大。文献[7]提出了一种整数变换的部分蝶形结构，其对应的变换矩阵也是一个整数矩阵，但换矩阵中各个数值都比较小。整数变换的蝶形结构便于在硬件平台（如FPGA、ASIC）实现，但由于其对应的变换矩阵中各个数值非常大（通常需要大于8比特的自然二进制数表示），在DSP、X86和ARM等平台上具有较大的实现复杂度；整数变换的部分蝶形结构，其变换矩阵中各个数值并不大（一般只需要8比特或者更小的自然二进制数表示），便于在DSP、x86和ARM等平台上实现，但部分蝶形结构中包含有矩阵乘法，在硬件实现复杂度上非常高。

本文提出一种整数变换的混合蝶形结构，该混合蝶形结构包含蝶形结构和补偿结构两部分。混合蝶形结构对应的整数矩阵为C_N×N，蝶形结构对应的整数矩阵为B_N×N，补偿结构对应的整数补偿矩阵为R_N×N，三者满足：C_N×N=B_N×N+R_N×N。其中蝶形结构可以是前人已经提出的蝶形结构，补偿结构的补偿矩阵R_N×N是一个非零矩阵，且矩阵中任何元素的绝对值不能超过α，α<β，其中β是一个人为设定的整数。补偿过程可以采用矩阵乘法运算，也可以采用蝶形结构或者部分蝶形结构。由于补偿矩阵的特性，故整个补偿结构的实现也非常简单。该混合蝶形结构对应的整数变换矩阵中各数值都不大，且所包含的蝶形结构和补偿结构都易于硬件实现，既保持了蝶形结构和部分蝶形结构的优点，又弥补了他们的缺点。

参考文献如下：

[1]Chen W H,Smith C H,Fralick S.A fast computational algorithm for the discrete cosine transform[J].Communications,IEEE Transactions on,1977,25(9):1004-1009。

[2]Loeffler C,Ligtenberg A,Moschytz G S.Practical fast1-D DCT algorithms with 11multiplications[C]//Acoustics,Speech,and Signal Processing,1989.ICASSP-89.,1989International Conference on.IEEE,1989:988-991。

[3]Hou H S.A fast recursive algorithm for computing the discrete cosine transform[C]//Applications if Digital Image Processing IX.International Society for Optics and Photonics,1986:14-25。