[发明专利]基于低精度平台的网格生成器的实现方法、装置及设备

权利要求书

1.一种基于低精度平台的网格生成器的实现方法，其特征在于，所述方法包括：

在检测到图像数据输入空间变换网络时，获取自定义网络基于所述图像数据输出的原始空间映射参数；

通过第一精度类型转换算法，对所述原始空间映射参数和指定参数进行定点化处理，得到定点化标量数据和指定定点数，所述指定参数为所述网格生成器中所使用的空间变换公式中指定的常数；

通过所述网格生成器中所使用的空间变换公式，根据所述定点化标量数据和所述指定定点数计算目标空间映射参数；

通过第二精度类型转换算法，对所述目标空间映射参数进行降位分离处理，得到使用第一比特位数的第一参数部分和使用第二比特位数的第二参数部分，所述第一比特位数低于所述第二比特位数；

通过第一映射坐标计算公式，根据所述第一参数部分和所述第二参数部分计算所述网格生成器输出的目标映射坐标。

2.如权利要求1所述的基于低精度平台的网格生成器的实现方法，其特征在于，所述通过第一精度类型转换算法，对所述原始空间映射参数和指定参数进行定点化处理，得到定点化标量数据和指定定点数，包括：

对所述原始空间映射参数进行小数和整数分离处理，并对分离得到的小数部分进行定点化处理，得到第三参数部分和第四参数部分，所述第三参数部分为所述原始空间映射参数的整数部分，所述第四参数部分为对所述原始空间映射参数的小数部分进行定点化处理后得到的定点数；

对所述第三参数部分和所述第四参数部分进行整合，得到所述定点化标量数据。

3.如权利要求2所述的基于低精度平台的网格生成器的实现方法，其特征在于，所述对所述原始空间映射参数进行小数和整数分离处理，并对分离得到的小数部分进行定点化处理，得到第三参数部分和第四参数部分中，包括：

获取所述低精度平台的定标位宽；

根据所述定标位宽，确定对分离得到的小数部分进行定点化处理所使用到的定标数；

根据所述定标数对分离得到的小数部分进行定点化处理。

4.如权利要求2或3所述的基于低精度平台的网格生成器的实现方法，其特征在于，所述对所述第三参数部分和所述第四参数部分进行整合，得到所述定点化标量数据，包括：

将所述第三参数部分和所述第四参数部分存储到矢量寄存器中；

通过矢量指令，按照第一预定规则将存储在矢量寄存器中的所述第三参数部分和所述第四参数部分搬移到标量寄存器中进行整合，得到所述定点化标量数据。

5.如权利要求4所述的基于低精度平台的网格生成器的实现方法，其特征在于，所述通过矢量指令，按照第一预定规则将存储在矢量寄存器中的所述第三参数部分和所述第四参数部分搬移到标量寄存器中进行整合，得到所述定点化标量数据，包括：

按照定标位宽，在标量寄存器中将所述第三参数部分向左移动相应位数；

将向左移动相应位数后的第三参数部分和所述第四参数部分进行整合，得到所述定点化标量数据。

6.如权利要求1或2所述的基于低精度平台的网格生成器的实现方法，其特征在于，所述通过第二精度类型转换算法，对所述目标空间映射参数进行降位分离处理，得到使用第一比特位数的第一参数部分和使用第二比特位数的第二参数部分，包括：

根据定标位宽，按照第二预定规则对所述目标空间映射参数进行降位分离处理，得到使用第一比特位数的第一参数部分和使用第二比特位数的第二参数部分。

7.如权利要求6所述的基于低精度平台的网格生成器的实现方法，其特征在于，所述根据定标位宽，按照第二预定规则对所述目标空间映射参数进行降位分离处理，得到使用第一比特位数的第一参数部分和使用第二比特位数的第二参数部分，包括：

按照定标位宽，从存储在标量寄存器中的所述目标映射参数中获取对应的位数的第一参数部分，得到使用第一比特位数的第一参数部分；

按照定标位宽，将存储在标量寄存器中的所述目标空间映射参数向右移动相应位数；

按照定标位宽，从在标量寄存器中向右移动相应位数后的目标映射参数中获取对应的位数的第二参数部分，得到使用第二比特位数的第二参数部分。