[发明专利]一种视频编码预测残差块的分解及重建方法

摘要

一种视频编码预测残差块的分解及重建方法，属于信号处理中的视频编码技术领域，减少现有DCT变换矩阵引起的块效应，并解决该矩阵的值不能进行调整的问题。本发明分解方法包括：预测残差块分类，第一、第三、第二多通道滤波器组横向分解，横向分解系数矩阵分类，第一、第三、第二多通道滤波器组纵向分解步骤；本发明重建方法包括：预测残差块的分解系数矩阵分类，第一、第三、第二多通道滤波器组纵向重建，横向分解系数矩阵分类，第一、第三、第二多通道滤波器组横向重建步骤。本发明能有效地进行去相关性，并能减少DCT变换矩阵和预测残差块尺寸不匹配所引起的块效应，提高编码主客观质量。

主权项

1.一种视频编码预测残差块的分解方法，包括：(1)预测残差块分类步骤：对输入的帧内或帧间预测残差块进行分类，当残差块的长边尺寸为4时，进行步骤(2)；当残差块的长边尺寸为8时，进行步骤(3)；当残差块的长边尺寸为16时，进行步骤(4)；(2)第一多通道滤波器组横向分解步骤：使用第一多通道滤波器组F1=U0U1W0W1]]>对残差块X进行横向分解得到横向分解系数矩阵Y，其分解表达式为：Y=XU0TW0TU1TW1T1/22cosα/21/22sinα/21/22sinα/2-1/2-2cosα/21/2-2sinα/2-1/22cosα/21/2-2cosα/21/2-2sinα/2]]>其中，U0=1/21/22cosα/22sinα/2,]]>U1=1/21/2-2sinα/2-2cosα/2,]]>W0=1/2-1/22sinα/2-2cosα/2,]]>W1=-1/21/22cosα/2-2sinα/2,]]>α＝0.1225π；分解完成后，进行步骤(5)；(3)第三多通道滤波器组横向分解步骤：使用第三多通道滤波器组F3=R0R1T0T1]]>对残差块X进行横向分解得到横向分解系数矩阵Y，其分解表达式为：Y=XR0TT0TR1TT1T]]>其中，R0=1222222222sinα22(sinα+cosα)22(sinα-cosα)cosαsinβcosβ-cosβ-sinβ22(sinα+cosα)-cosα-sinα22(cosα-sinα),]]>R₁＝SR₀PSP，T0=1222-22-222222(sinα-cosα)-sinαcosα22(sinα+cosα)cosβ-sinβsinβ-cosβcosα22(cosα-sinα)22(sinα+cosα)-sinα,]]>T₁＝ST₀PSP，P=1211111-11-111-1-11-1-11,]]>S=121-11-1,]]>α＝0.4362π，β＝0.38π；分解完成后，进行步骤(5)；(4)第二多通道滤波器组横向分解步骤：使用第二多通道滤波器组F2=H0H1H2H3G0G1G2G3]]>对残差块X进行横向分解得到横向分解系数矩阵Y，过程为：(4.1)对残差块X的每个行向量进行横向对称扩展以及分解：对第i个行向量N_i＝[x_i，0 x_i，1 x_i，2 x_i，3 x_i，4 x_i，5 x_i，6 x_i，7 x_i，8 x_i，9 x_i，10 x_i，11 x_i，12 x_i，13 x_i，14 x_i，15]横向对称扩展得到扩展行向量Z_i，Z_i＝[x_i，1 x_i，0 x_i，0 x_i，1 x_i，2 x_i，3 x_i，4 x_i，5 x_i，6x_i，7 x_i，8 x_i，9 x_i，10 x_i，11 x_i，12 x_i，13 x_i，14 x_i，15 x_i，15 x_i，14]，对Z_i进行横向分解得到第i个行向量N_i的横向分解向量M_i：M_i＝[y_i，0 y_i，1 y_i，2 y_i，3 y_i，4 y_i，5 y_i，6 y_i，7 y_i，8 y_i，9 y_i，10 y_i，11 y_i，12 y_i，13 y_i，14 y_i，15]，其中：[y_i，0 y_i，1 y_i，2 y_i，3]＝[x_i，1 x_i，0 x_i，0 x_i，1 x_i，2 x_i，3 x_i，4 x_i，5]F₂^T，[y_i，4 y_i，5 y_i，6 y_i，7]＝[x_i，2 x_i，3 x_i，4 x_i，5 x_i，6 x_i，7 x_i，8 x_i，9]F₂^T，[y_i，8 y_i，9 y_i，10 y_i，11]＝[x_i，6 x_i，7 x_i，8 x_i，9 x_i，10 x_i，11 x_i，12 x_i，13]F₂^T，[y_i，12 y_i，13 y_i，14 y_i，15]＝[x_i，10 x_i，11 x_i，12 x_i，13 x_i，14 x_i，15 x_i，15 x_i，14]F₂^T，F2=H0H1H2H3G0G1G2G3,]]>H0=141+sinα+cosα1+sinα-cosα1+sinα-cosα1+sinα+cosα,]]>H1=141-sinα+cosα1-sinα-cosαsinα-1+cosαsinα-1-cosα,]]>H2=141-sinα-cosα1-sinα+cosα1-sinα+cosα1-sinα-cosα,]]>H3=141+sinα-cosα1+sinα+cosα-1-sinα-cosα-1-sinα+cosα,]]>G0=14cosα-1-sinαcosα+1+sinαcosα+1+sinαcosα-1-sinα,]]>G1=14-cosα+1-sinα-cosα-1+sinαcosα+1-sinαcosα-1-sinα,]]>G2=14-cosα-1+sinα-cosα+1-sinα-cosα+1-sinα-cosα-1+sinα,]]>G3=14cosα+1+sinαcosα-1-sinα-cosα+1+sinα-cosα-1-sinα,]]>α＝-0.595π，i为0～k-1，k≤16，k由残差块X的宽边尺寸决定；(4.2)各个行向量的横向分解向量Mi构成横向分解系数矩阵Y，Y=M0M1...Mk-1,]]>其中，k由残差块X的宽边尺寸决定；分解完成后，进行步骤(5)；(5)横向分解系数矩阵分类步骤：对横向分解系数矩阵Y进行分类，当Y的宽边尺寸为4时，进行步骤(6)；当Y的宽边尺寸为8时，进行步骤(7)；当Y的宽边尺寸为16时，进行步骤(8)；(6)第一多通道滤波器组纵向分解步骤：使用第一多通道滤波器组F1=U0U1W0W1]]>对横向分解系数矩阵Y进行纵向分解得到残差块的分解系数矩阵D，其分解表达式为：D=U0U1W0W1Y=1/21/21/21/22cosα/22sinα/2-2sinα/2-2cosα/21/2-1/2-1/21/22sinα/2-2cosα/22cosα/2-2sinα/2Y]]>其中，U₀、U₁、W₀、W₁和α的值与步骤(2)中所示相同；分解结束；(7)第三多通道滤波器组纵向分解步骤：使用第三多通道滤波器组F3=R0R1T0T1]]>对横向分解系数矩阵Y进行纵向分解得到残差块的分解系数矩阵D，其分解表达式为：D=R0R1T0T1Y]]>其中，R₀、R₁、T₀、T₁的值与步骤(3)中所示相同；分解结束；(8)第二多通道滤波器组纵向分解步骤：使用第二多通道滤波器组F2=H0H1H2H3G0G1G2G3]]>对横向分解系数矩阵Y进行纵向分解得到残差块的分解系数矩阵D，过程为：(8.1)对横向分解系数矩阵Y的每个列向量进行纵向对称扩展以及分解：对第i个列向量L_i＝[y_0，i y_1，i y_2，i y_3，i y_4，i y_5，i y_6，i y_7，i y_8，i y_9，i y_10，i y_11，i y_12，i y_13，i y_14，i y_15，i]^T纵向对称扩展得到扩展列向量Z_i，Z_i＝[y_1，i y_0，i y_0，i y_1，i y_2，i y_3，i y_4，i y_5，i y_6，iy_7，i y_8，i y_9，i y_10，i y_11，i y_12，i y_13，i y_14，i y_15，i y_15，i y_14，i]^T，对Z_i进行纵向分解得到第i个列向量L_i的纵向分解向量J_i：J_i＝[d_0，i d_1，i d_2，i d_3，i d_4，i d_5，i d_6，i d_7，i d_8，i d_9，i d_10，i d_11，i d_12，i d_13，i d_14，i d_15，i ]^T，其中：[d_0，i d_1，i d_2，i d_3，i]^T＝F₂[y_1，i y_0，i y_0，i y_1，i y_2，i y_3，i y_4，i y_5，i]^T，[d_4，i d_5，i d_6，i d_7，i]^T＝F₂[y_2，i y_3，i y_4，i y_5，i y_6，i y_7，i y_8，i y_9，i]^T，[d_8，i d_9，i d_10，i d_11，i]^T＝F₂[y_6，i y_7，i y_8，i y_9，i y_10，i y_11，i y_12，i y_13，i]^T，[d_12，i d_13，i d_14，i d_15，i]^T＝F₂[y_10，i y_11，i y_12，i y_13，i y_14，i y_15，i y_15，i y_14，i]^T，F2=H0H1H2H3G0G1G2G3,]]>H₀、H₁、H₂、H₃、G₀、G₁、G₂、G₃的值与步骤(4.1)中所示相同，i为0～k-1，k≤16，k由残差块X的长边尺寸决定；(8.2)各个列向量的纵向分解向量J_i构成残差块的分解系数矩阵D，D＝[J₀ J₁…J_k-1]，其中k由残差块X的长边尺寸决定；分解结束。