[发明专利]一种用于可伸缩视频编码的快速帧内编码模式决策方法

摘要

一种用于可伸缩视频编码的快速帧内编码模式决策方法，涉及视频编码技术领域。本发明是为了解决现有针对可伸缩视频的快速帧内编码模式决策技术存在的相关性模型不能准确描述SHVC编码中帧内编码模式的相关性、缺少针对不同大小PU的快速帧内编码模式决策算法、缺乏针对RMD过程之后的编码过程所进行的优化、针对SHVC标准的快速帧内编码模式决策算法的性能较差等问题。本发明利用层间、时间和空间相关性，为增强层中不同大小的PU分别构造初始候选帧内编码模式列表；利用哈达玛代价值进一步减少候选帧内编码模式的数量，从而减少编码时间。实验证明，本发明可以明显减少编码时间但不会影响编码效率。本发明应用于可伸缩视频编码的帧内编码模式决策领域。

主权项

1.一种用于可伸缩视频编码的快速帧内编码模式决策方法，其特征在于它是按照以下步骤进行的：步骤一、获取增强层中当前PU在基本层中同位PU的编码模式信息，定义基本层和增强层在编码模式上的相关性，然后执行步骤二；PU即预测单元；步骤二、对分辨率、运动剧烈程度以及纹理复杂度不同的视频序列，利用SHM12.0参考软件进行编码，并利用在步骤一中定义的基本层和增强层在编码模式上的相关性，计算基本层和增强层在编码模式上的相关性数据，即层间相关性数据，然后执行步骤三；步骤三、定义增强层中当前PU与其在前一帧中的同位PU之间的编码模式相关性，然后执行步骤四；步骤四、对分辨率、运动剧烈程度以及纹理复杂度不同的视频序列，利用SHM12.0参考软件进行编码，并利用在步骤三中定义的增强层中当前PU与其在前一帧中的同位PU之间的编码模式相关性，计算增强层中当前PU与其在前一帧中的同位PU之间的编码模式相关性数据，即时间相关性数据，然后执行步骤五；步骤五、定义增强层中当前PU与其在基本层中的同位PU的空间相邻PU之间的编码模式相关性，然后执行步骤六；步骤六、对分辨率、运动剧烈程度以及纹理复杂度不同的视频序列，利用SHM12.0参考软件进行编码，并利用在步骤五中定义的增强层中当前PU与其在基本层中的同位PU的空间相邻PU之间在编码模式上的空间相关性，计算增强层中当前PU与其在基本层中的同位PU的空间相邻PU之间的编码模式相关性数据，即空间相关性数据，然后执行步骤七；步骤七、根据在步骤二中得到的层间相关性数据、步骤四中得到的时间相关性数据和步骤六中得到的空间相关性数据，针对增强层中不同大小的PU构造初始候选编码模式列表：首先判断增强层中当前PU的大小是否为64×64；如果是，则为增强层中的当前PU构造初始候选编码模式列表CL0，然后执行步骤十四；否则，执行步骤八；步骤八、判断增强层中当前PU的大小是否为32×32；如果是，则为增强层中的当前PU构造初始候选编码模式列表CL1，然后执行步骤十四；否则，执行步骤九；步骤九、判断增强层中当前PU的大小是否为16×16；如果是，则执行步骤十；否则，执行步骤十一；步骤十、判断当前帧是否为第0帧；如果是，则为增强层中的当前PU构造初始候选编码模式列表CLin，然后执行步骤十四；否则，为增强层中的当前PU构造初始候选编码模式列表CL2，然后执行步骤十四；步骤十一、判断增强层中当前PU的大小是否为8×8；如果是，则执行步骤十二；否则，执行步骤十三；步骤十二、判断当前帧是否为第0帧；如果是，则为增强层中的当前PU构造初始候选编码模式列表CLin，然后执行步骤十四；否则，为增强层中的当前PU构造初始候选编码模式列表CL3，然后执行步骤十四；步骤十三、为增强层中大小为4×4的当前PU构造初始候选编码模式列表CL4，然后执行步骤十四；步骤十四、将最有可能模式，根据实际执行的步骤合并入在步骤七、步骤八、步骤十、步骤十二或步骤十三中构造的初始候选编码模式列表中，组成新的候选编码模式列表CLnew；然后，对CLnew中的候选编码模式进行粗略模式决策处理，保留哈达玛代价值最小的M种编码模式；然后，判断当前PU采用的初始候选编码模式列表是否为CLin；如果是，则执行步骤十五；否则，执行步骤十六；最有可能模式，即MPM；粗略模式决策，即RMD；步骤十五、构造一个新的候选编码模式列表CL′new，其中包括在步骤十四中经过RMD处理后得到的M种候选编码模式，以及模式序号与这M种候选编码模式中的方向性编码模式的模式序号相差为1的编码模式；对列表CL′new中的候选编码模式再次进行RMD处理，并保留哈达玛代价值最小的M种编码模式，然后执行步骤十六；步骤十六、计算在步骤十五中经过再次RMD处理得到的M种候选编码模式和MPM的哈达玛代价值，其中最小的哈达玛代价值记为HCOSTMODE_MIN；将哈达玛代价值大于HCOSTMODE_MIN的1.5倍的编码模式从候选编码模式列表中移除；判断候选编码模式列表中剩余的候选编码模式的个数是否大于1；如果是，则执行步骤十七；否则，执行步骤十八；步骤十七、候选编码模式列表中仅保留哈达玛代价值最小的两种编码模式，然后执行步骤十八；步骤十八、对候选编码模式列表中最终保留下来的编码模式执行SHM12.0参考软件中默认的残差四叉树编码处理，为当前PU选择出最优编码模式；残差四叉树编码处理，即RQT。