[发明专利]一种HEVC的快速编码方法

摘要

本发明公开了一种HEVC的快速编码方法，其充分利用了编码过程中的最大编码单元与其所在的帧的前向参考帧中坐标位置相同的最大编码单元的时域相似度、与其左边相邻最大编码单元的空域相似度、与其上边相邻最大编码单元的空域相似度，来计算P帧或B帧中的最大编码单元的深度预测值，然后利用最大编码单元的深度预测值与深度遍历区间的一一对应关系确定最大编码单元的深度遍历区间，在深度遍历区间内对最大编码单元以及其内的各个编码单元进行编码，在编码过程中对P帧或B帧中满足条件的最大编码单元及满足条件的各个编码单元进行快速预测模式选择，减少了不必要的深度和预测模式遍历，从而在保证视频质量的前提下，降低了视频编码的计算复杂度。

主权项

一种HEVC的快速编码方法，其特征在于包括以下步骤：①将高清视频中当前待处理的帧定义为当前帧；②将当前帧中当前待编码的最大编码单元定义为当前最大编码单元；③根据当前帧的帧类型及当前最大编码单元在当前帧中的位置，确定当前最大编码单元的所有预测用的最大编码单元；然后将由当前最大编码单元的所有预测用的最大编码单元构成的集合定义为当前最大编码单元的预测集合，并记为Ω，其中，Ω为空集或Ω中所包含的最大编码单元为L、T和COL中的至少一个，L表示当前最大编码单元的左边相邻最大编码单元，T表示当前最大编码单元的上边相邻最大编码单元，COL表示当前帧的前向参考帧中与当前最大编码单元的坐标位置相同的最大编码单元；④令Dpred表示当前最大编码单元的深度预测值，然后确立Dpred的值与当前最大编码单元的深度遍历区间的一一对应关系，其中，Dpred的值不存在或Dpred的值为实数，且0≤Dpred≤3；⑤如果Ω为空集或Ω中所包含的最大编码单元为L、T和COL中的一个或Ω中所包含的最大编码单元为L、T和COL中的两个，则确定Dpred的值不存在，然后执行步骤⑦；如果Ω中所包含的最大编码单元为L、T和COL，则确定Dpred的值为实数，且0≤Dpred≤3，然后执行步骤⑥；⑥通过获取当前最大编码单元与T的空域相似度TAS、当前最大编码单元与L的空域相似度LAS、当前最大编码单元与COL的时域相似度TS，计算Dpred的值，其中，1≤m≤3，1≤i≤256，且m和i均为整数，ωm表示Ω中的第m个最大编码单元所占的权重，当m＝1时ωm＝LAS，当m＝2时ωm＝TAS，当m＝3时ωm＝TS，表示Ω中的第m个最大编码单元中的第i个尺寸大小为4×4的基本存储单元的深度值；所述的步骤⑥的具体过程为：⑥‑1、计算当前最大编码单元的左边相邻最大编码单元L和当前帧的前向参考帧中与当前最大编码单元的坐标位置相同的最大编码单元的左边相邻最大编码单元L‑COL之间的平均深度差，记为ADD1，并计算当前最大编码单元的上边相邻最大编码单元T和当前帧的前向参考帧中与当前最大编码单元的坐标位置相同的最大编码单元的上边相邻最大编码单元T‑COL之间的平均深度差，记为ADD2，然后计算ADD1与ADD2的平均值，记为ADD，ADD＝(ADD1+ADD2)/2；其中，1≤i≤256，且为整数，表示L中的第i个尺寸大小为4×4的基本存储单元的深度值，表示L‑COL中的第i个尺寸大小为4×4的基本存储单元的深度值，表示T中的第i个尺寸大小为4×4的基本存储单元的深度值，表示T‑COL中的第i个尺寸大小为4×4的基本存储单元的深度值，的取值范围均为[0,3]，且为整数，符号“| |”为取绝对值符号；⑥‑2、计算当前最大编码单元与当前最大编码单元的上边相邻最大编码单元T的空域相似度，记为TAS，TAS＝0.05×ADD+0.25；并计算当前最大编码单元与当前最大编码单元的左边相邻最大编码单元L的空域相似度，记为LAS，LAS＝0.05×ADD+0.25；同时，计算当前最大编码单元与当前帧的前向参考帧中与当前最大编码单元的坐标位置相同的最大编码单元COL的时域相似度，记为TS，TS＝‑0.1×ADD+0.5；⑥‑3、计算Dpred的值，其中，1≤m≤3，且为整数，ωm表示Ω中的第m个最大编码单元所占的权重，当m＝1时ωm＝LAS，当m＝2时ωm＝TAS，当m＝3时ωm＝TS，表示Ω中的第m个最大编码单元中的第i个尺寸大小为4×4的基本存储单元的深度值；⑦根据Dpred的值与当前最大编码单元的深度遍历区间的一一对应关系，确定当前最大编码单元的深度遍历区间；然后根据当前最大编码单元的深度遍历区间对当前最大编码单元以及当前最大编码单元内的各个编码单元进行编码，在编码过程中，若当前最大编码单元所在的帧为高清视频中的P帧或B帧，则当当前最大编码单元或当前最大编码单元内的每个编码单元的平均时空域人眼恰可察觉失真值小于设定的低阈值T1或大于设定的高阈值T2，则对当前最大编码单元或当前最大编码单元内的每个编码单元进行快速预测模式的选择，对当前最大编码单元或当前最大编码单元内的每个编码单元分别用skip、merge、inter2N×2N和intra2N×2N预测模式进行遍历编码，选取率失真代价值最小的预测模式作为最优预测模式；⑧将当前帧中下一个待编码的最大编码单元作为当前最大编码单元，然后返回步骤③继续执行，直至当前帧中的所有最大编码单元均编码完毕；⑨将高清视频中下一帧待处理的帧作为当前帧，然后返回步骤②继续执行，直至高清视频中的所有帧均处理完毕，至此完成了高清视频的快速编码。