[发明专利]一种数据处理方法、装置、电子设备及存储介质在审
申请号: | 202111073266.5 | 申请日: | 2021-09-14 |
公开(公告)号: | CN113805844A | 公开(公告)日: | 2021-12-17 |
发明(设计)人: | 李晓明;郑波浪 | 申请(专利权)人: | 北京升哲科技有限公司 |
主分类号: | G06F7/57 | 分类号: | G06F7/57 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 严慧 |
地址: | 100102 北京市朝阳区广顺南大*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 电子设备 存储 介质 | ||
1.一种数据处理方法,其特征在于,包括:
确定浮点类型数据的第一目标待转换数值和目标数据位宽;
根据所述第一目标待转换数值和所述目标数据位宽计算所述浮点类型数据的目标转换量纲;
根据所述第一目标待转换数值和所述目标转换量纲计算所述浮点类型数据的目标转换数值;
根据所述目标转换量纲和所述目标转换数值确定所述浮点类型数据匹配的定点类型数据;
根据所述定点类型数据进行数据处理操作。
2.根据权利要求1所述的方法,其特征在于,所述确定浮点类型数据的第一目标待转换数值和目标数据位宽,包括:
确定所述浮点类型数据的符号位类型;
根据所述符号位类型确定所述第一目标待转换数值和所述目标数据位宽。
3.根据权利要求2所述的方法,其特征在于,所述根据所述符号位类型确定所述第一目标待转换数值和所述目标数据位宽,包括:
在确定所述符号位类型为第一符号位类型的情况下,删除所述浮点类型数据的符号位,得到所述第一目标待转换数值;
将所述浮点类型数据的数据位宽与所述浮点类型数据的符号位的差值确定为所述目标数据位宽;或
在确定所述符号位类型为第二符号位类型的情况下,将所述浮点类型数据确定为所述第一目标待转换数值;
将所述浮点类型数据的数据位宽确定为所述目标数据位宽。
4.根据权利要求1所述的方法,其特征在于,所述根据所述第一目标待转换数值和所述目标数据位宽计算所述浮点类型数据的目标转换量纲,包括:
基于如下公式计算所述浮点类型数据的目标转换量纲:
Q=floor(log2(D'))+1-N'
其中,Q表示所述目标转换量纲,floor(·)表示向下取整,D'表示所述第一目标待转换数值,N'表示所述目标数据位宽。
5.根据权利要求1所述的方法,其特征在于,所述根据所述第一目标待转换数值和所述目标转换量纲计算所述浮点类型数据的目标转换数值,包括:
基于如下公式计算所述浮点类型数据的目标转换数值:
U(N')=dec2bin(floor(D'/2Q))
其中,U(N')表示所述目标转换数值,dec2bin(·)表示将十进制数转换成二进制数。
6.根据权利要求1所述的方法,其特征在于,所述根据所述目标转换量纲和所述目标转换数值确定所述浮点类型数据匹配的定点类型数据,包括:
在确定所述浮点类型数据的符号位类型为第一符号位类型的情况下,将所述浮点类型数据的符号位添加至所述目标转换数值的符号位置处,得到第一符号位类型的目标转换数值;
将所述第一符号位类型的目标转换数值和所述目标转换量纲构建的集合确定为所述定点类型数据;
在确定所述浮点类型数据的符号位类型为第二符号位类型的情况下,将所述目标转换数值和所述目标转换量纲构建的集合确定为所述定点类型数据。
7.根据权利要求1所述的方法,其特征在于,还包括:
确定定点类型数据的第二目标待转换数值和数据量纲;
根据所述第二目标待转换数值和所述数据量纲确定所述定点类型数据匹配的浮点类型数据;
根据所述浮点类型数据进行数据处理操作。
8.根据权利要求7所述的方法,其特征在于,所述确定定点类型数据的第二目标待转换数值,包括:
基于如下公式确定所述定点类型数据的第二目标待转换数值:
或,基于如下公式确定所述定点类型数据的第二目标待转换数值:
其中,D”表示所述第二目标待转换数值,N和N'表示所述定点类型数据的数据位宽,zn表示二进制比特位。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京升哲科技有限公司,未经北京升哲科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111073266.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:基于故障系统的车辆故障快照存储方法、装置及设备
- 下一篇:非开挖螺旋缠绕机