[发明专利]检测模型后处理方法、介质、电子设备和程序产品

权利要求书

1.一种检测模型后处理方法，应用于电子设备，其特征在于，包括：

确定处理对象上的候选边界框，并对所述候选边界框实施调整运算，所述调整运算包括第一运算部分和第二运算部分，所述第一运算部分包括第一常数除法运算因子，所述第二运算部分包括第二常数除法运算因子与至少一个非线性运算因子；

获取所述调整运算对应的边界框数据和区域调整数据，所述区域调整数据包括第一调整数据和第二调整数据；

确定与所述第二调整数据关联的查表参数，并从查找表中获取所述查表参数对应的查表结果；

将所述边界框数据和所述第一调整数据输入所述第一运算部分，得到第一运算结果；

基于所述边界框数据和所述查表结果的线性运算，确定所述第二运算部分的第二运算结果；

基于所述第一运算结果和所述第二运算结果的线性运算，确定调整后的边界框数据。

2.根据权利要求1所述的方法，其特征在于，所述将所述边界框数据和所述第一调整数据输入所述第一运算部分，得到第一运算结果，包括：

确定所述区域调整数据的输入量化参数；

基于所述第一常数除法运算因子对所述输入量化参数进行常数除法运算，得到第一量化参数；

基于所述第一量化参数对所述第一调整数据进行反量化，得到包括所述第一常数除法运算因子的第一子运算的第一反量化结果数据；

基于所述边界框数据和所述第一反量化结果数据的线性运算，确定所述第一运算部分的第一运算结果。

3.根据权利要求2所述的方法，其特征在于，所述基于所述第一量化参数对所述第一调整数据进行反量化，得到包括所述第一常数除法运算因子的第一子运算的第一反量化结果数据，包括：

确定所述第一量化参数对应的第一缩放系数和第一移位数，所述第一缩放系数和第一移位数均为第一目标量化位数的定点数，所述第一目标量化位数由所述边界框数据的第一量化位数和所述区域调整数据的第二量化位数确定；

将所述第一调整数据与所述第一缩放系数相乘后，将所得的乘积向右移所述第一移位数位，得到所述第一反量化结果数据。

4.根据权利要求2所述的方法，其特征在于，所述边界框数据包括第一边界框数据和第二边界框数据；

所述基于所述边界框数据和所述第一反量化结果数据的线性运算，确定所述第一运算部分的第一运算结果，包括：

将所述第一反量化结果数据与所述第一边界框数据相乘后，再与所述第二边界框数据相加，得到所述第一运算部分的第一运算结果。

5.根据权利要求1所述的方法，其特征在于，所述从查找表中获取所述查表参数对应的查表结果，包括：

确定查找表中与所述查表参数对应的索引值；其中，所述查表参数与所述索引值均为定点数，所述查表参数对应的浮点数与所述索引值对应的浮点数数值相同；

获取所述查找表中与所述索引值对应的查表结果；其中，所述查找表的索引值及查表结果均为第二目标量化位数的值，所述第二目标量化位数由所述边界框数据的第一量化位数确定。

6.根据权利要求4所述的方法，其特征在于，所述基于所述边界框数据和所述查表结果的线性运算，确定所述第二运算部分的第二运算结果，包括：

确定所述查表结果的第二量化参数；

基于所述第二量化参数对所述查表结果进行反量化，得到第二反量化结果数据；

将所述第二反量化结果数据与所述第一边界框数据相乘，得到所述第二运算部分的第二运算结果。

7.根据权利要求6所述的方法，其特征在于，所述基于所述第二量化参数对所述查表结果进行反量化，得到第二反量化结果数据包括：

确定所述第二量化参数对应的第二缩放系数和第二移位数，所述第二缩放系数和第二移位数均为整数；

将所述查表结果与所述第二缩放系数相乘后，将所得的乘积向右移所述第二移位数位，得到所述第二反量化结果数据。

8.一种可读介质，其特征在于，所述可读介质中包含有指令，当所述指令被电子设备的处理器执行时使电子设备实现权利要求1至7中任一项所述的检测模型后处理方法。