[发明专利]基于AVS的并行量化和反量化方法

摘要

本发明公开了基于AVS的并行量化和反量化方法，量化方法包括分析量化公式中的参数，分别提取量化公式中的每个参数；分别将每个参数对应的8个值并行送入相应的寄存器中；利用保存有对应参数的寄存器对量化公式进行运算；获得同一行的8个量化结果；重复运算，依次获得8行量化结果。反量化方法包括分析反量化公式中的参数，分别提取反量化公式中的每个参数；分别将每个参数对应的8个值并行送入相应的寄存器中；利用保存有对应参数的寄存器对反量化公式进行运算；获得同一行的8个反量化结果；重复运算，依次获得8行反量化结果。通过分别将量化和反量化中的参数并行放进寄存器中进行处理，实现高效率地得到量化结果和反量化结果。

主权项

基于AVS的并行量化方法，其特征在于，包括以下步骤：步骤A：分析量化公式中的参数，分别提取量化公式中的每个参数，每个参数均为16位数据，参数数量包括5个，分别记为第一参数、第二参数、第三参数、第四参数和第五参数，第一参数位于第一矩阵内，第二参数位于第二矩阵内，第三参数、第四和第五参数为固定参数，量化公式为：dij＝(((cij*scale_m[i,j]+218)>>19)*Qp(qp)+qp_const)>>15，其中，dij为量化结果，cij为变换结果，i和j的取值范围为0‑7,Qp(qp)为量化矩阵，qp_const为偏差值，将量化公式进行等效转换，等效转换后的量化公式：dij＝((((cij*scale_m[i,j]+22)>>3)*Qp(qp))<<1+qp_const<<1)>>16，其中，第一参数为cij，第二参数为scale_m[i,j]，第三参数为22，第四参数为Qp(qp)，第五参数为qp_const；步骤B：分别将第一矩阵的当前行的8个第一参数和第二矩阵的当前行的8个第二参数并行送入相应的寄存器中，将8个第三参数、8个第四参数和8个第五参数亦分别并行送入相应的寄存器中；在步骤B与步骤C之间还包括：步骤B1：判断第一矩阵中的当前行的8个第一参数是否都为0，若是，则跳过步骤C的运算，在步骤D中直接获得8个量化结果，且8个量化结果均为0；否则执行步骤C；步骤C：利用保存有对应参数的寄存器对量化公式进行运算，利用保存有对应参数的寄存器对等效转换后的量化公式进行运算，首先取cij*scale_m[i,j]部分的高16位数据，再取2*((cij*scale_m[i,j]+22)>>3)*Qp(qp)部分的高16位数据和低16位数据，将2*((cij*scale_m[i,j]+22)>>3)*Qp(qp)部分的低16位数据与2*qp_const进行饱和相加，若饱和相加结果大于216，则向2*((cij*scale_m[i,j]+22)>>3)*Qp(qp)部分的高16位数据进一位，否则不需要进位；步骤D：获得同一行的8个量化结果；步骤E：重复执行8次步骤B至步骤D，依次获得8行量化结果，得到8*8量化结果矩阵。