[发明专利]一种NMS函数的量化方法、电子设备及介质

权利要求书

1.一种NMS函数的量化方法，其特征在于，包括：

获取需要进行交并比计算的第一目标检测框的第一面积数值和第二目标检测框的第二面积数值，所述第一面积数值的数据形式为包括第一位数的二进制数值，所述第二面积数值的数据形式为包括第二位数的二进制数值；

将所述第一面积数值的后第一预设位数的二进制数删除，得到第一目标检测框的第一近似面积数值，并将所述第二面积数值的后第二预设位数的二进制数删除，得到所述第二目标检测框的第二近似面积数值；

基于所述第一近似面积数值和第二近似面积数值进行所述第一目标检测框和所述第二目标检测框的交并比计算，得到所述第一目标检测框和所述第二目标检测框的交并比计算结果。

2.根据权利要求1所述的量化方法，其特征在于，所述第一预设位数和所述第二预设位数的确定需要满足使得所述第一近似面积数值和所述第二近似面积数值的加和数值的二进制的位数小于等于第三预设位数；

所述第三预设位数为所述NMS函数所部署的处理器能够处理数据的最长位数。

3.根据权利要求2所述的量化方法，其特征在于，所述基于所述第一近似面积数值和第二近似面积数值进行所述第一目标检测框和所述第二目标检测框的交并比计算，得到所述第一目标检测框和所述第二目标检测框的交并比计算结果，包括：

确定所述NMS函数的交并比设定值对应的交并比量化数值；

确定所述第一目标检测框和所述第二目标检测框的交集区域面积；

基于所述第一近似面积数值、所述第二近似面积数值和所述交集区域面积确定出所述第一目标检测框和所述第二目标检测框的并集区域面积；

确定所述并集区域面积与所述交并比量化数值的乘积与所述交集区域面积的数值大小对比情况。

4.根据权利要求3所述的量化方法，其特征在于，所述确定所述NMS函数的交并比设定值对应的交并比量化数值；包括：

获取所述NMS函数的交并比设定值；

获取所述交并比设定值的量化比特数；

根据所述量化比特数确定所述交并比设定值对应的交并比量化数值。

5.根据权利要求4所述的量化方法，其特征在于，包括:

所述第一预设位数和所述第二预设位数的确定需要满足使得所述并集区域面积与所述交并比量化数值的乘积的二进制位数小于等于所述第三预设位数。

6.根据权利要求2-5任一项所述的量化方法，其特征在于，所述第三预设位数为32位。

7.根据权利要求1-6任一项所述的量化方法，其特征在于，还包括：获取所述NMS函数的输入数据的取值范围和所述输入数据的量化数值范围；

将所述NMS函数的输入数据的取值范围作为NMS函数的输出数据的取值范围，将所述NMS函数的输入数据的量化数值范围作为所述NMS函数的输出数据的量化数值范围。

8.一种电子设备，其特征在于，包括：

存储器，用于存储由所述电子设备的一个或多个处理器执行的指令，以及

处理器，是所述电子设备的所述一个或多个处理器之一，用于执行权利要求1-7中任一项所述量化方法。

9.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有指令，所述指令在执行时使计算机执行权利要求1至7中任一项所述量化方法。

10.一种计算机程序产品，其特征在于，所述计算机程序产品包括指令，所述指令用于实现权利要求1-7任一项所述量化方法。