[发明专利]舍入反平方根结果

说明书

本发明公开了舍入反平方根结果。用于确定在输入浮点数上执行的反平方根运算的无限精度结果是否大于在第一浮点精度中的特定数的方法和系统。该方法包括：计算在第二较低的浮点精度中的特定数的平方；计算由于第二浮点精度而引起的在所计算的平方中的误差；通过计算该平方乘以输入浮点数减去一来计算在第一浮点精度中的第一增量值；通过计算误差乘以输入浮点数加上第一增量值来计算第二增量值；以及基于第二增量项来输出反平方根运算的无限精度结果是否大于特定数的指示。

背景

当在硬件中执行算术运算时，其使用特定的数字表示法来执行，诸如但不限于定点数表示法或浮点数表示法。如本领域中的技术人员已知的，定点数表示法具有在小数点(例如，十进制小数点或二进制小数点)之后的固定数的数字。相反，浮点数表示法不具有固定小数点(即，它可以“浮动”)。换句话说，小数点可放置在该表示内的任何地方。

最常见的浮点标准是电气与电子工程师协会(IEEE)的用于浮点算数的标准(IEEE-754)。IEEE-754规定浮点数由三个数表示：符号、指数和尾数(s，exp，mant)。通常，对于固定整数bias这三个数(s，exp，mant)被解释为在方程式(1)中所示：

(-1)^s2^exp-bias1.mant (1)

对于具有不同程度的精度的浮点数，IEEE-754定义在表1中所示的四个基本格式。特别地，它们分别使用16、32、64和128位来编码。

表1

浮点表示法(与定点数相比)对于相同数量的位允许较大范围的数。相应地，可使用相同的浮点表示法来表示非常大的整数和小的分数。然而，由于浮点数只具有有限数量的位，因此它们有舍入误差的倾向。特别地，如果指数和尾数的二进制宽度分别是ew和mw，则精度的位或有效位的数量是mw+1(浮点格式具有精度的隐含位)。舍入误差u是在1和下一个可表示的浮点值之间的距离的一半。

当使用“就近舍入”舍入模式时，浮点算术运算的输出理想地是对无限精度结果y的在输出格式(即，输出精度)中的最接近的可表示值。换句话说，理想地，输出已被正确地舍入(向上或向下)到最接近的可表示值。为了在依次执行多个运算时减小舍入误差的复合效应，并允许对最终舍入步骤做出的准确决策，一些浮点算术运算硬件实现被配置成计算在比最终输出精度高的精度中计算中间结果，并接着将结果舍入到在输出精度中的最接近的可表示数字。在中间精度中的附加位可被称为保护位。例如，输出值可以是具有67位浮点中间值(即，具有三个保护位)的双精度64位。

这样的硬件可产生在中间精度中的计算结果y_c，其相当接近无限精度结果y。特别地，通过适当地选择保护位的数量，可能得到在中间精度中的计算结果y_c，其具有足够的准确度以确保无限精度结果y可准确地被舍入到高于和低于计算结果y_c的较低输出精度的两个连续可表示数中一个。

例如，图1示出在较低输出精度中的四个连续可表示数i、j、k和l。如果在中间精度中的计算结果y_c位于j和k之间，通过适当地选择保护位的数量，能够确保无限精度结果y一定落在由在k和l之间的一半数y_h-kl以及在i和j之间的一半数y_h-ij界定的区域102中。如果无限精度结果y位于这个区域102中，则无限精度结果y可被正确地舍入到j和k中的一个。