[发明专利]一种基于卷积神经网络的HEVC帧内CTU划分方法有效

专利信息
申请号: 202110147340.7 申请日: 2021-02-03
公开(公告)号: CN112887712B 公开(公告)日: 2021-11-19
发明(设计)人: 汪大勇;徐太杰;赵奕婷 申请(专利权)人: 重庆邮电大学
主分类号: H04N19/119 分类号: H04N19/119;H04N19/147;H04N19/172;H04N19/42;H04N19/70;H04N19/96;G06N3/04;G06N3/08
代理公司: 重庆辉腾律师事务所 50215 代理人: 卢胜斌
地址: 400065 重*** 国省代码: 重庆;50
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 基于 卷积 神经网络 hevc ctu 划分 方法
【说明书】:

本发明属于视频编码相关技术领域,具体涉及一种基于卷积神经网络的HEVC帧内CTU划分方法,该方法包括:采用四杈树神经网络模型对视频帧进行处理,得到整帧所有的CTU四杈树结构,采用优化的编码器对当前帧的所有CTU四杈树的结构进行编码划分,根据划分结果对HEVC帧内CTU进行划分;本发明采用多个卷积神经网络对四杈树进行优化处理,构成了四杈树神经网络模型,通过该模型,能够将所有的HEVC帧内CTU进行划分,并且使得每个划分结果的关联性加强,提高了处理数据的效率,降低了编码的时间。

技术领域

本发明属于视频编码相关技术领域,具体涉及一种基于卷积神经网络的HEVC帧内CTU划分方法。

背景技术

随着视频逐渐地超高清化,且短视频、网络直播以及网络点播等新兴的视频应用方式的出现,对视频的存储与传输是一个巨大的挑战。因此,2013年,联合专家组发布了新一代高效视频编码标准(High Efficiency Video Coding,HEVC),旨在对庞大的视频数据进行有效地压缩使其能在有限的带宽内进行存储和传输,其压缩率比上一代视频编码标准H.264/AVC提高一倍。在提高编码效率的同时,HEVC采用四叉树划分方式等更复杂的编码结构,急剧增加了编码的复杂度,严重影响了HEVC的实用性。

在对HEVC帧内预测的优化中,一般在CU层以及PU层中优化。HEVC帧内预测比较热门的快速算法有:利用平滑区域减少CU分割最大深度、基于纹理的减少PU预测方向、基于参考的减少CU遍历次数、根据四叉树分层结构减少预测模式数量、将预测方向分组从而进行快速模式选择、以及根据当前块周围像素的线性插值规律来预测当前块的预测模式。例如专利申请号为CN202010627907.6《视频编码方法及编码树单元划分方法、系统、设备及可读存储介质》的专利公开了一种编码树单元划分方法,该方法为:获取已确定划分情况的若干编码单元,将其分为训练集和测试集:训练和测试深度卷积神经网络,得到深度卷积神经网络预测模型,通过深度卷积神经网络预测模型对编码单元预测划分情况;至编码树单元内部所有的编码单元均完成预测,根据每个编码树单元内部所有的编码单元的预测结果,得到每个编码树单元的划分结果。本方法能同时进行的编码树单元划分线程和编码线程;进行至编码树单元划分阶段时,利用编码树单元划分线程共享的划分结果进行编码树单元划分,有效降低确定编码单元划分情况的复杂度,降低视频整体编码时间。

但是该方法的卷积神经网络是独立的,使得整个方案只能确定当前的CU能不能划分,没有从整体上考虑最小化率失真值。

发明内容

为解决以上现有技术存在的问题,本发明提出了一种基于卷积神经网络的HEVC帧内CTU划分方法,该方法包括:

S1:获取视频数据,将视频数据转化为视频帧;

S2:将视频帧输入到四杈树神经网络模型中,得到整帧所有的CTU四杈树结构;

S3:采用优化的编码器读取当前帧的所有CTU四杈树的结构,根据当前CTU四杈树的结构对当前编码树单元CTU的编码单元CU进行划分;

S4:获取当前编码单元CU对应的划分结果,若CU的划分结果为0,则计算当前CU的RD-cost并且停止向下递归划分;若CU的划分结果为1,则跳过RD-cost的计算,并继续向下递归划分;若CU的划分结果不确定,则采用高斯判别器判断CU的划分结果,重复此过程直到停止递归或划分到最小CU尺寸为止;

S5:当CU的编码尺寸为8×8时,对预测单元PU进行划分;若当前PU划分结果为0,则当前PU的尺寸为8×8;若PU的划分结果为1时,将当前PU划分为4个4×4的PU,若划分结果不确定,则采用统计方法确定当前PU的尺寸。

优选的,得到CTU四杈树的结构的过程包括:

S21:运行编码器HM,将视频帧数据输入到编码器HM中,计算视频帧数据的第n帧所有CTU的四叉树结构;

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于重庆邮电大学,未经重庆邮电大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202110147340.7/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top