[发明专利]用于帧内子分区编解码模式的方法和设备

权利要求书

1.一种解码视频信号的帧内子分区ISP方法，所述方法包括：

将视频数据块分割为多个分区，其中，每个分区包括N×M个样点，其中N和M是水平方向或垂直方向的样点数；

基于当前块的相邻块的帧内预测模式获得多个最可能的帧内预测，并确定帧内预测模式以预测所述块分区的所述样点；

获得第一分区的残差系数并通过对所述第一分区的所述残差系数执行反量化来得到所述第一分区的去量化残差系数；

从DCT-II和DST-VII变换核选择最佳变换组合并通过在水平方向和垂直方向上对所述第一分区的去量化残差系数执行逆变换来得到所述第一分区的残差样点；

通过基于邻近于所述第一分区的相邻重建样点对所述第一分区执行帧内预测来得到所述第一分区的预测样点；

通过将所述第一分区的所述残差样点与所述第一分区的所述预测样点相加来得到所述第一分区的重建样点；以及

通过基于所述第一分区的所述重建样点对第二分区执行帧内预测来得到所述第二分区的预测样点。

2.如权利要求1所述的方法，其中，从DCT-II和DST-VII变换核选择最佳变换组合进一步包括：

当所述视频块被分割为矩形分区时，在样点较少的维度上应用DST-VII变换以对所述去量化残差系数进行逆变换，并且在样点较多的维度上应用DCT-II变换以对所述去量化残差系数进行逆变换；以及

当所述视频块被分割为正方形分区时，在两个维度上均应用所述DST-VII变换以对所述去量化残差系数进行逆变换。

3.如权利要求1所述的方法，其中，从DCT-II和DST-VII变换核选择最佳变换组合进一步包括：

当一个维度上的样点数等于或小于16时，在该维度上应用DST-VII变换以对所述去量化系数进行逆变换；以及

当一个维度上的样点数大于16时，在该维度上应用DCT-II变换以对所述去量化系数进行逆变换。

4.如权利要求1所述的方法，其中，基于所述当前块的所述相邻块的所述帧内预测模式获得多个最可能的帧内预测进一步包括：

使用与应用于非ISP编码块的最可能模式生成方法相同的最可能模式生成方法生成当前ISP块的最可能模式；

从所述当前ISP块的最可能模式列表中排除DC模式；

当所述当前块被水平分割时，从所述最可能模式列表中排除角度帧内预测方向-14到18；以及

当所述当前块被垂直分割时，从所述最可能模式列表中排除角度帧内预测50到80。

5.如权利要求4所述的方法，进一步包括：

当一个帧内预测模式从所述最可能模式列表中被排除时，如果所述帧内预测模式的广角帧内预测方向存在，则将对应的广角帧内预测方向作为替代添加到所述最可能模式列表中。

6.一种计算设备，包括：

一个或多个处理器；

非暂态计算机可读存储器，所述非暂态计算机可读存储器存储可由所述一个或多个处理器执行的指令，其中，所述一个或多个处理器被配置为：

将视频数据块分割为多个分区，其中，每个分区包括N×M个样点，其中N和M是水平方向或垂直方向的样点数；

基于当前块的相邻块的帧内预测模式获得多个最可能的帧内预测，并确定帧内预测模式以预测所述块分区的所述样点；

获得第一分区的残差系数并通过对所述第一分区的所述残差系数执行反量化来得到所述第一分区的去量化残差系数；

从DCT-II和DST-VII变换核选择最佳变换组合并通过在水平方向和垂直方向上对所述第一分区的去量化残差系数执行逆变换来得到所述第一分区的残差样点；

通过基于邻近于所述第一分区的相邻重建样点对所述第一分区执行帧内预测来得到所述第一分区的预测样点；

通过将所述第一分区的所述残差样点与所述第一分区的所述预测样点相加来得到所述第一分区的重建样点；以及

通过基于所述第一分区的所述重建样点对第二分区执行帧内预测来得到所述第二分区的预测样点。