[发明专利]一种视频编码预测残差块的分解及重建方法

权利要求书

1.一种视频编码预测残差块的分解方法，包括：

(1)预测残差块分类步骤：对输入的帧内或帧间预测残差块进行分类，当残差块的长边尺寸为4时，进行步骤(2)；当残差块的长边尺寸为8时，进行步骤(3)；当残差块的长边尺寸为16时，进行步骤(4)；

(2)第一多通道滤波器组横向分解步骤：使用第一多通道滤波器组对残差块X进行横向分解得到横向分解系数矩阵Y，其分解表达式为：

其中，α＝0.1225π；

分解完成后，进行步骤(5)；

(3)第三多通道滤波器组横向分解步骤：使用第三多通道滤波器组对残差块X进行横向分解得到横向分解系数矩阵Y，其分解表达式为：

其中，

R₁＝SR₀PSP，T₁＝ST₀PSP，α＝0.4362π，β＝0.38π；

分解完成后，进行步骤(5)；

(4)第二多通道滤波器组横向分解步骤：使用第二多通道滤波器组对残差块X进行横向分解得到横向分解系数矩阵Y，过程为：(4.1)对残差块X的每个行向量进行横向对称扩展以及分解：

对第i个行向量N_i＝[x_i，0x_i，1x_i，2x_i，3x_i，4x_i，5x_i，6x_i，7x_i，8x_i，9x_i，10x_i，11x_i，12x_i，13x_i，14x_i，15]横向对称扩展得到扩展行向量Z_i，Z_i＝[x_i，1x_i，0x_i，0x_i，1x_i，2x_i，3x_i，4x_i，5x_i，6x_i，7x_i，8x_i，9x_i，10x_i，11x_i，12x_i，13x_i，14x_i，15x_i，15x_i，14]，对Z_i进行横向分解得到第i个行向量N_i的横向分解向量M_i：

M_i＝[y_i，0y_i，1y_i，2y_i，3y_i，4y_i，5y_i，6y_i，7y_i，8y_i，9y_i，10y_i，11y_i，12y_i，13y_i，14y_i，15]，

其中：

[y_i，0y_i，1y_i，2y_i，3]＝[x_i，1x_i，0x_i，0x_i，1x_i，2x_i，3x_i，4x_i，5]F₂^T，

[y_i，4 y_i，5 y_i，6 y_i，7]＝[x_i，2 x_i，3 x_i，4 x_i，5 x_i，6 x_i，7 x_i，8 x_i，9]F₂^T，

[y_i，8 y_i，9 y_i，10 y_i，11]＝[x_i，6 x_i，7 x_i，8 x_i，9 x_i，10 x_i，11 x_i，12 x_i，13]F₂^T，

[y_i，12 y_i，13 y_i，14 y_i，15]＝[x_i，10 x_i，11 x_i，12 x_i，13 x_i，14 x_i，15 x_i，15 x_i，14]F₂^T，

α＝-0.595π，i为0～k-1，k≤16，k由残差块X的宽边尺寸决定；

(4.2)各个行向量的横向分解向量M_i构成横向分解系数矩阵Y，

其中，k由残差块X的宽边尺寸决定；

分解完成后，进行步骤(5)；

(5)横向分解系数矩阵分类步骤：对横向分解系数矩阵Y进行分类，

当Y的宽边尺寸为4时，进行步骤(6)；当Y的宽边尺寸为8时，进行步骤(7)；当Y的宽边尺寸为16时，进行步骤(8)；

(6)第一多通道滤波器组纵向分解步骤：使用第一多通道滤波器组对横向分解系数矩阵Y进行纵向分解得到残差块的分解系数矩阵D，其分解表达式为：

其中，U₀、U₁、W₀、W₁和α的值与步骤(2)中所示相同；

分解结束；

(7)第三多通道滤波器组纵向分解步骤：使用第三多通道滤波器组对横向分解系数矩阵Y进行纵向分解得到残差块的分解系数矩阵D，其分解表达式为：

其中，R₀、R₁、T₀、T₁的值与步骤(3)中所示相同；

分解结束；

(8)第二多通道滤波器组纵向分解步骤：使用第二多通道滤波器组对横向分解系数矩阵Y进行纵向分解得到残差块的分解系数矩阵D，过程为：

(8.1)对横向分解系数矩阵Y的每个列向量进行纵向对称扩展以及分解：

对第i个列向量L_i＝[y_0，iy_1，iy_2，iy_3，iy_4，iy_5，iy_6，iy_7，iy_8，iy_9，iy_10，iy_11，iy_12，iy_13，iy_14，iy_15，i]^T纵向对称扩展得到扩展列向量Z_i，Z_i＝[y_1，iy_0，iy_0，iy_1，iy_2，iy_3，iy_4，iy_5，iy_6，iy_7，iy_8，iy_9，iy_10，iy_11，iy_12，iy_13，iy_14，iy_15，iy_15，iy_14，i]^T，对Z_i进行纵向分解得到第i个列向量L_i的纵向分解向量J_i：

J_i＝[d_0，id_1，id_2，id_3，id_4，id_5，id_6，id_7，id_8，id_9，id_10，id_11，id_12，id_13，id_14，id_15，i]^T，

其中：

[d_0，id_1，id_2，id_3，i]^T＝F₂[y_1，iy_0，iy_0，iy_1，iy_2，iy_3，iy_4，iy_5，i]^T，

[d_4，id_5，id_6，id_7，i]^T＝F₂[y_2，iy_3，iy_4，iy_5，iy_6，iy_7，iy_8，iy_9，i]^T，

[d_8，id_9，id_10，id_11，i]^T＝F₂[y_6，iy_7，iy_8，iy_9，iy_10，iy_11，iy_12，iy_13，i]^T，

[d_12，id_13，id_14，id_15，i]^T＝F₂[y_10，iy_11，iy_12，iy_13，iy_14，iy_15，iy_15，iy_14，i]^T，

H₀、H₁、H₂、H₃、G₀、G₁、G₂、G₃的值与步骤(4.1)中所示相同，i为0～k-1，k≤16，k由残差块X的长边尺寸决定；

(8.2)各个列向量的纵向分解向量J_i构成残差块的分解系数矩阵D，

D＝[J₀J₁…J_k-1]，其中k由残差块X的长边尺寸决定；

分解结束。

2.一种视频编码预测残差块的重建方法，利用分解系数矩阵重建预测残差块，包括：

(1)预测残差块的分解系数矩阵分类步骤：对输入的分解系数矩阵D进行分类，当分解系数矩阵的宽边尺寸为4时，进行步骤(2)；当分解系数矩阵的宽边尺寸为8时，进行步骤(3)；当分解系数矩阵的宽边尺寸为16时，进行步骤(4)；

(2)第一多通道滤波器组纵向重建步骤：使用第一多通道滤波器组对分解系数矩阵D进行纵向重建得到横向分解系数矩阵Y，其重建表达式为：

其中，α＝0.1225π；

重建完成后，进行步骤(5)；

(3)第三多通道滤波器组纵向重建步骤：使用第三多通道滤波器组对分解系数矩阵D进行纵向重建得到横向分解系数矩阵Y，其重建表达式为：

其中，

R₁＝SR₀PSP，

T₁＝ST₀PSP，

α＝0.4362π，β＝0.38π；

重建完成后，进行步骤(5)；

(4)第二多通道滤波器组纵向重建步骤：使用第二多通道滤波器组对分解系数矩阵D进行纵向重建得到横向分解系数矩阵Y，过程为：

(4.1)对分解系数矩阵D的每个列向量进行重建：

对分解系数矩阵D的第i个列向量J_i＝[d_0，i d_1，i d_2，i d_3，i d_4，i d_5，i d_6，i d_7，id_8，i d_9，i d_10，i d_11，i d_12，i d_13，i d_14，i d_15，i]^T进行重建得到横向分解系数矩阵Y的第i个列向量L_i＝[y_0，i y_1，i y_2，i y_3，i y_4，iy_5，i y_7， i y_8，i y_9，i y_10，i y_11，i y_12，i y_13，i y_14，i y_15，i]^T，其计算表达式为：

y_0，i＝d_0，i×h₀₂+d_0，i×h₀₆+d_1，i×h₁₂-d_1，i×h₁₆+d_2，i×g₀₂+d_2，i×g₀₆+d_3，i×g₁₂-d_3，i×g₁₆

y_1，i＝d_0，i×h₀₃+d_0，i×h₀₇+d_1，i×h₁₃-d_1，i×h₁₇+d_2，i×g₀₃+d_2，i ×g₀₇+d_3，i×g₁₃-d_3，i×g₁₇

y_2，i＝d_0，i×h₀₄+d_4，i×h₀₀+d_1，i×h₁₄+d_5，i×h₁₀+d_2，i×g₀₄+d_6，i×g₀₀+d_3，i×g₁₄+d_7，i×g₁₀

y_3，i＝d_0，i×h₀₅+d_4，i×h₀₁+d_1，i ×h₁₅+d_5，i×h₁₁+d_2，i×g₀₅+d_6，i×g₀₁+d_3，i×g₁₅+d_7，i×g₁₁

y_4，i＝d_0，i×h₀₆+d_4，i×h₀₂+d_1，i×h₁₆+d_5，i×h₁₂+d_2，i×g₀₆+d_6，i×g₀₂+d_3，i×g₁₆+d_7，i×g₁₂

y_5，i＝d_0，i×h₀₇+d_4，i×h₀₃+d_1，i×h₁₇+d_5，i×h₁₃+d_2，i×g₀₇+d_6，i×g₀₃+d_3，i×g₁₇+d_7，i×g₁₃

y_6，i＝d_4，i×h₀₄+d_8，i×h₀₀+d_5，i×h₁₄+d_9，i×h₁₀+d_6，i×g₀₄+d_10，i×g₀₀+d_7，i×g₁₄+d_11，i×g₁₀

y_7，i＝d_4，i×h₀₅+d_8，i×h₀₁+d_5，i×h₁₅+d_9，i×h₁₁+d_6，i×g₀₅+d_10，i×g₀₁+d_7，i×g₁₅+d_11，i×g₁₁

y_8，i＝d_4，i×h₀₆+d_8，i×h₀₂+d_5，i×h₁₆+d_9，i×h₁₂+d_6，i×g₀₆+d_10，i×g₀₂+d_7，i×g₁₆+d_11，i×g₁₂

y_9，i＝d_4，i×h₀₇+d_8，i×h₀₃+d_5，i×h₁₇+d_9，i×h₁₃+d_6，i×g₀₇+dx×g₀₃+d_7，i×g₁₇+d_11，i×g₁₃

y_10，i＝d_8，i×h₀₄+d_12，i×h₀₀+d_9，i×h₁₄+d_13，i×h₁₀+d_10，i×g₀₄+d_14，i×g₀₀+d_11，i×g₁₄+d_15，i×g₁₀

y_11，i＝d_8，i×h₀₅+d_12，i×h₀₁+d_9，i×h₁₅+d_13，i×h₁₁+d_10，i×g₀₅+d_14，i×g₀₁+d_11，i×g₁₅+d_15，i×g₁₁

y_12，i＝d_8，i×h₀₆+d_12，i×h₀₂+d_9，i×h₁₆+d_13，i×h₁₂+d_10，i×g₀₆+d_14，i×g₀₂+d_11，i×g₁₆+d_15，i×g₁₂

y_13，i＝d_8，i×h₀₇+d_12，i×h₀₃+d_9，i×h₁₇+d_13，i×h₁₃+d_10，i×g₀₇+d_14，i×g₀₃+d_11，i×g₁₇+d_15，i×g₁₃

y_14，i＝d_12，i×h₀₄+d_12，i×h₀₀+d_13，i×h₁₄-d_13，i×h₁₀+d_14，i×g₀₄+d_14，i×g₀₀+d_15，i×g₁₄-d_15，i×g₁₀

y_15，i＝d_12，i×h₀₅+d_12，i×h₀₁+d_13，i×h₁₅-d_13，i×h₁₁+d_14，i×g₀₅+d_14，i×g₀₁+d_15，i×g₁₅-d_15，i×g₁₁

其中：

α＝-0.595π，i为0～k-1，k≤16，k由分解系数矩阵D的长边尺寸决定；

(4.2)各个列向量的纵向重建向量L_i构成横向分解系数矩阵Y，

Y＝[L₀ L₁…L_k-1]，其中，k由分解系数矩阵D的长边尺寸决定；

重建完成后，进行步骤(5)；

(5)横向分解系数矩阵分类步骤：对横向分解系数矩阵Y进行分类，当Y的长边尺寸为4时，进行步骤(6)；当Y的长边尺寸为8时，进行步骤(7)；当Y的长边尺寸为16时，进行步骤(8)；

(6)第一多通道滤波器组横向重建步骤：使用第一多通道滤波器组对横向分解系数矩阵Y进行横向重建得到残差块X，其重建表达式为：

其中，U₀、U₁、W₀、W₁和α的值与步骤(2)中所示相同；

重建结束；

(7)第三多通道滤波器组横向重建步骤：使用第三多通道滤波器组对横向分解系数矩阵Y进行横向重建得到残差块X，其重建表达式为：

其中，R₀、R₁、T₀、T₁的值与步骤(3)中所示相同；

重建结束；

(8)第二多通道滤波器组横向重建步骤：使用第二多通道滤波器组对横向分解系数矩阵Y进行横向重建得到残差块X，过程为：

(8.1)对横向分解系数矩阵Y的每个行向量进行重建：

对横向分解系数矩阵Y的第i个行向量M_i＝[y_i，0 y_i，1 y_i，2 y_i，3 y_i，4 y_i，5y_i，6 y_i，7 y_i，8 y_i，9 y_i，10 y_i，11 y_i，12 y_i，13 y_i，14 y_i，15]进行重建得到残差块X的第i个行向量N_i＝[x_i，0 x_i，1 x_i，2 x_i，3 x_i，4 x_i，5 x_i，6 x_i，7 x_i，8 x_i，9 x_i，10 x_i，11 x_i，12 x_i，13 x_i，14 x_i，15]，其计算表达式为：

x_i，0＝y_i，0×h₀₂+y_i，0×h₀₆+y_i，1×h₁₂-y_i，1×h₁₆+y_i，2×g₀₂+y_i，2×g₀₆+y_i，3×g₁₂-y_i，3×g₁₆

x_i，1＝y_i，0×h₀₃+y_i，0×h₀₇+y_i，1×h₁₃-y_i，1×h₁₇+y_i，2×g₀₃+y_i，2×g₀₇+y_i，3×g₁₃-y_i，3×g₁₇

x_i，2＝y_i，0×h₀₄+y_i，4×h₀₀+y_i，1×h₁₄+y_i，5×h₁₀+y_i，2×g₀₄+y_i，6×g₀₀+y_i，3×g₁₄+y_i，7×g₁₀

x_i，3＝y_i，0×h₀₅+y_i，4×h₀₁+y_i，1×h₁₅+y_i，5×h₁₁+y_i，2×g₀₅+y_i，6×g₀₁+y_i，3×g₁₅+y_i，7×g₁₁

x_i，4＝y_i，0×h₀₆+y_i，4×h₀₂+y_i，1×h₁₆+y_i，5×h₁₂+y_i，2×g₀₆+y_i，6×g₀₂+y_i，3×g₁₆+y_i，7×g₁₂

x_i，5＝y_i，0×h₀₇+y_i，4×h₀₃+y_i，1×h₁₇+y_i，5×h₁₃+y_i，2×g₀₇+y_i，6×g₀₃+y_i，3×g₁₇+y_i，7×g₁₃

x_i，6＝y_i，4×h₀₄+y_i，8×h₀₀+y_i，5×h₁₄+y_i，9×h₁₀+y_i，6×g₀₄+y_i，10×g₀₀+y_i，7×g₁₄+y_i，11×g₁₀

x_i，7＝y_i，4×h₀₅+y_i，8×h₀₁+y_i，5×h₁₅+y_i，9×h₁₁+y_i，6×g₀₅+y_i，10×g₀₁+y_i，7×g₁₅+y_i，11×g₁₁

x_i，8＝y_i，4×h₀₆+y_i，8×h₀₂+y_i，5×h₁₆+y_i，9×h₁₂+y_i，6×g₀₆+y_i，10×g₀₂+y_i，7×g₁₆+y_i，11×g₁₂

x_i，9＝y_i，4×h₀₇+y_i，8×h₀₃+y_i，5×h₁₇+y_i，9×h₁₃+y_i，6×g₀₇+y_i，10×g₀₃+y_i，7×g₁₇+y_i，11×g₁₃

x_i，10＝y_i，8×h₀₄+y_i，12×h₀₀+y_i，9×h₁₄+y_i，13×h₁₀+y_i，10×g₀₄+y_i，14×g₀₀+y_i，11×g₁₄+y_i，15×g₁₀

x_i，11＝y_i，8×h₀₅+y_i，12×h₀₁+y_i，9×h₁₅+y_i，13×h₁₁+y_i，10×g₀₅+y_i，14×g₀₁+y_i，11×g₁₅+y_i，15×g₁₁

x_i，12＝y_i，8×h₀₆+y_i，12×h₀₂+y_i，9×h₁₆+y_i，13×h₁₂+y_i，10×g₀₆+y_i，14×g₀₂+y_i，11×g₁₆+y_i，15×g₁₂

x_i，13＝y_i，8×h₀₇+y_i，12×h₀₃+y_i，9×h₁₇+y_i，13×h₁₃+y_i，10×g₀₇+y_i，14×g₀₃+y_i，11×g₁₇+y_i，15×g₁₃

x_i，14＝y_i，12×h₀₄+y_i，12×h₀₀+y_i，13×h₁₄-y_i，13×h₁₀+y_i，14×g₀₄+y_i，14×g₀₀+y_i，15×g₁₄-y_i，15×g₁₀

x_i，15＝y_i，12×h₀₅+y_i，12×h₀₁+y_i，13×h₁₅-y_i，13×h₁₁+y_i，14×g₀₅+y_i，14×g₀₁+y_i，15×g₁₅-y_i，15×g₁₁

其中，H₀、H₁、H₂、H₃、G₀、G₁、G₂、G₃的值与步骤(4.1)中所示相同，i为0～k-1，k≤16，k由横向分解系数矩阵Y的宽边尺寸决定；

(8.2)各个行向量的横向重建向量N_i构成残差块X，其中，k由横向分解系数矩阵Y的宽边尺寸决定；

重建结束。