[发明专利]基于低精度平台的网格生成器的实现方法、装置及设备

说明书

本申请提供一种基于低精度平台的网格生成器的实现方法、装置及设备，涉及计算机处理器技术领域，能够提高在低精度平台上使用高精度算子进行运算的准确率，保证图像输出质量。该方法包括：在检测到图像数据输入空间变换网络时，获取自定义网络基于图像数据输出的原始空间映射参数；通过对原始空间映射参数和指定参数进行定点化处理，得到定点化标量数据和指定定点数，再根据定点化标量数据和指定定点数计算目标空间映射参数；通过对目标空间映射参数进行降位分离处理，然后通过第一映射坐标计算公式，根据降位分离得到的第一参数部分和第二参数部分计算网格生成器输出的目标映射坐标。

技术领域

本申请涉及计算机处理器的领域，尤其涉及一种基于低精度平台的网格生成器的实现方法、装置及设备。

背景技术

随着人工智能(Artificial Intelligence，AI)技术的快速发展，边缘计算技术的开发需求也越来越迫切，基于嵌入式神经网络处理器(neural-network processingunits，NPU)或者数字信号处理(Digital Signal Process，DSP)的开发也越来越多。在边缘计算计算开发过程中，对于无法采用硬件算法实现的一些非线性算子，需要使用矢量指令集比如NPU矢量指令集来完成相应技术。

随着NPU和DSP的快速发展，出现了更多高精度的矢量指令集，而为了适应这些高精度的矢量指令集，保证高精度算子运算的高性能，平台的功耗相应也就较高。然而，在低精度平台上，为了满足低功耗高性能的要求，NPU矢量指令集可能仅支持低精度算子的技术，或者DSP的适量指令集也是选择低精度配置，如仅支持float16和int16矢量指令集，而不支持float32和int32矢量指令集。

空间变换网络(Spatial Transformer Networks，STN)是一个可学习的模块，放置在卷积神经网络(Convolutional Neural Networks，CNN)中，可以有效地增加空间不变性，其包括自定义网络Localisation Ne、网格生成器Grid generator、和图像采样器Sampler。Grid generatort作为STN的空间坐标映射变换的重要部分，需要高精度算子的计算，才能保证最终输出的sampler的准确性。目前在低精度平台上无法保证高精度算子运算的准确性，从而导致在低精度平台上输出的图像质量不高。如何在满足低精度平台对低功耗高性能的要求下，保证高精度算子运算的准确性，提高在低精度平台上使用高精度算子进行运算的准确率，保证图像输出质量，是当前需要解决的技术问题。

发明内容

本申请实施例提供了一种基于低精度平台的网格生成器的实现方法、装置及设备，能够提高在低精度平台上使用高精度算子进行运算的准确率，保证图像输出质量。

第一方面，本申请提供一种基于低精度平台的网格生成器的实现方法，包括：在检测到图像数据输入空间变换网络时，获取自定义网络基于图像数据输出的原始空间映射参数；通过第一精度类型转换算法，对原始空间映射参数和指定参数进行定点化处理，得到定点化标量数据和指定定点数，指定参数为网格生成器中所使用的空间变换公式中指定的常数；通过网格生成器中所使用的空间变换公式，根据定点化标量数据和指定定点数计算目标空间映射参数；通过第二精度类型转换算法，对目标空间映射参数进行降位分离处理，得到使用第一比特位数的第一参数部分和使用第二比特位数的第二参数部分，第一比特位数低于第二比特位数；通过第一映射坐标计算公式，根据第一参数部分和第二参数部分计算网格生成器输出的目标映射坐标。

本申请实施例通过在检测到图像数据输入到空间变换网络时，通过改变自定义网络基于该图像数据输出的原始空间映射参数的精度，使得输入到网格生成器中的算子的精度符合其精度要求，再通过网格生成器的空间变换公式来计算目标空间映射参数，然后再通过改变计算得到的高精度算子即目标空间映射参数的精度来计算网格生成器最终输出的目标映射坐标，实现了在低精度平台上使用高精度算子进行运算的准确率，在满足低精度平台对低功耗高性能的要求下，保证高精度算子运算的准确性，保证了空间变换网络输出图像的质量。