[发明专利]浮点数幂运算处理方法、装置和计算机系统无效
申请号: | 201010104098.7 | 申请日: | 2010-01-27 |
公开(公告)号: | CN102135870A | 公开(公告)日: | 2011-07-27 |
发明(设计)人: | 李有永 | 申请(专利权)人: | 成都市华为赛门铁克科技有限公司 |
主分类号: | G06F7/57 | 分类号: | G06F7/57 |
代理公司: | 北京同立钧成知识产权代理有限公司 11205 | 代理人: | 刘芳 |
地址: | 611731 四川*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供一种浮点数幂运算处理方法、装置和计算机系统,其中,该方法包括:根据浮点数X在内存中的二进制科学计数法存储结构,将所述浮点数X设置为y与2n乘积的形式,其中,y的绝对值为大于1小于2的实数,n为大于负127小于128的整数;根据预先创建的第一预处理表获取ya的取值,并根据第二预处理表获取2na的取值,其中,所述第一预处理表存储有ya的取值,所述第二预处理表存储有2na的取值,a为常数;根据所述ya的取值和所述2na的取值获得所述Xa的计算结果。通过上述处理,能够有效提高计算机处理浮点数幂运算的计算效率。 | ||
搜索关键词: | 浮点 运算 处理 方法 装置 计算机系统 | ||
【主权项】:
一种浮点数幂运算处理方法,其特征在于,包括:根据浮点数X在内存中的二进制科学计数法存储结构,将所述浮点数X设置为y与2n乘积的形式,其中,y的绝对值为大于1小于2的实数,n为大于负127小于128的整数;根据预先创建的第一预处理表获取ya的取值,并根据第二预处理表获取2na的取值,其中,所述第一预处理表存储有ya的取值,所述第二预处理表存储有2na的取值,a为常数;根据所述ya的取值和所述2na的取值获得所述Xa的计算结果。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于成都市华为赛门铁克科技有限公司,未经成都市华为赛门铁克科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201010104098.7/,转载请声明来源钻瓜专利网。