[发明专利]一种基于浮点数的查表方法、装置、电子设备及存储介质在审
| 申请号： | 202310316840.8 | 申请日： | 2023-03-28 |
| 公开（公告）号： | CN116466910A | 公开（公告）日： | 2023-07-21 |
| 发明（设计）人： | 于莉莉;郭璟;郭振江;唐璇 | 申请（专利权）人： | 上海思朗科技有限公司 |
| 主分类号： | G06F7/483 | 分类号： | G06F7/483;G06F7/498 |
| 代理公司： | 济南智圆行方专利代理事务所(普通合伙企业) 37231 | 代理人： | 张玉琳 |
| 地址： | 200120 上海市浦东新区中国（上*** | 国省代码： | 上海;31 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本申请公开了一种基于浮点数的查表方法、装置、电子设备及存储介质。方法包括：获取查表计算信息，查表计算信息包括：用于查表的除数，被除数以及除数所对应的取值区间；获取预先创建的目标查找表，并确定目标查找表在取值区间内的查表值；利用查表值进行插值计算，得到插值结果，并基于插值结果计算除数的倒数；基于倒数与被除数计算得到的计算结果进行查表。本申请把除数由无限的范围限定至有限的取值区间内，通过确定查找表在取值区间内的查表值，将查表值进行插值拟合，再通过修正调整输出除数的倒数值，使用被除数乘以除数的倒数的方法得到任意范围内的计算结果，且不损失计算精度，实现了高效地计算除法运算的高精度结果。 | ||
| 搜索关键词： | 一种 基于 浮点 方法 装置 电子设备 存储 介质 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于上海思朗科技有限公司，未经上海思朗科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202310316840.8/，转载请声明来源钻瓜专利网。
- 上一篇：一种耐腐蚀锌涂层的制备工艺及喷漆装置
- 下一篇：一种便携穿戴式脉搏检测装置
