[发明专利]一种自适应环路滤波的边界处理方法及装置

摘要

本发明公开了一种自适应环路滤波的边界处理方法及装置，所述边界处理方法包括根据序列的当前最大编码单元的上边界和下边界，确定滤波区域；以及确定所述滤波区域的左边界外和右边界外的像素是否可用，且在自适应环路滤波ALF过程中，对于不可用的像素样本，使用所述滤波区域内距离该像素样本最近的像素样本代替。本发明解决了ALF滤波过程中的边界处理问题，充分利用了像素之间的相关性，以微小的编码性能损失为代价，降低了自适应环路滤波器实现过程中的硬件成本。

主权项

一种自适应环路滤波的边界处理方法，其特征在于，包括：在序列的序列头上添加标志位，该标志位用于控制ALF是否允许跨条带边界滤波；对当前最大编码单元的上边界进行判断，基于亮度分量，将当前最大编码单元所在区域C向上移N个样本单位，再基于色度分量，将最大编码单元所在的区域向上移M个样本单位，得到区域D，其中，N和M均小于等于4；若区域D超出图像边界，或区域D超出条带边界且所述标志位不允许ALF跨条带边界滤波，则将超出部分移除，得到区域E，否则区域E等于区域D；对当前最大编码单元的下边界进行判断，若当前最大编码单元的下边界为图像边界，则对于亮度分量的区域E最下方补入N行样本，对于色度分量的区域E的最下方补入M行样本，得到区域F，将区域F作为ALF的滤波区域；以及确定所述滤波区域的左边界外和右边界外的像素是否可用，且在自适应环路滤波ALF过程中，对于不可用的像素样本，使用所述滤波区域内距离该像素样本最近的像素样本代替。