[发明专利]一种视频编码4x4整数变换方法

摘要

本发明公开一种视频编码4x4整数变换方法，通过接收编码器中预测模块输出的4x4的图像残差数据X，选取不同整数变换基(选取[1，9，4]、[1，7，3]、[1，8，3]中的一个)构建变换矩阵P；根据变换矩阵P，构建缩放矩阵PF(PF＝ZT*Z)；对图像残差数据X进行正变换(Y＝PXPT)，并根据不同的整数变化基，采用相应的整数变换计算方法；对经过4x4正变换后的数据Y进行缩放处理。本发明的变换方法能量集中性能优秀，能量集中度接近4x4DCT，可以极大地消除视频数据在变换空间上的相关性；计算复杂度低，可通过加法和移位来实现，易于硬件实现，并且运算精度高，不存正反变换不匹配的问题。

主权项

1.一种视频编码4x4整数变换方法，包括步骤1，接收编码器中预测模块输出的4x4的图像残差数据X；步骤2，选取整数变换基，构建变换矩阵，4x4的通用整数变换矩阵为：矩阵C中，整数变换基为[k0k1k1]；步骤3，根据变换矩阵P，构建缩放矩阵PF，PF＝Z^T*Z其中，Z^T＝[1//||m1||1/||m2||1/||m3||1/||m4||]；Z为m_i为变换矩阵P的行向量，i取值为1-4；||m_i||为行向量m_i的向量范数；步骤4，正变换，对4x4的图像残差数据X进行整数变换，变换公式为Y＝PXP^T；其中P为所述的变换矩阵；X为所述的图像残差数据；步骤5，对经过4x4正变换后的数据Y进行缩放处理，是矩阵的点乘运算，Y是经过4x4正变换后的数据，PF是缩放矩阵，Y′是本缩放处理后的输出值，代表视频数据变换到频域上的信息；其特征在于：所述整数变换基为以下数值中的一个：[1，9，4]，[1，7，3]，[1，8，3]。