代码之家  ›  专栏  ›  技术社区  ›  Neil G

(a-b)+b的最坏情况是什么?

  •  0
  • Neil G  · 技术社区  · 6 年前

    当用ieee 754浮点数a和b进行计算时,就a和b的和(a-b)+b的大小而言,最坏的情况是什么?我能指望那离A有多近?

    1 回复  |  直到 6 年前
        1
  •  4
  •   Eric Postpischil    6 年前

    100%。 b 可能太大了 a-b 生产 -b 然后 (a-b)+b 产生零。

    例如,对于ieee-754基本64位二进制文件, 五十四 + 2 五十四 结果为0,四舍五入到最接近偶数。我们也可以100%在另一个方向。如果 a 是1和 是2 五十三 然后是2 (A—B)+B 生产2。

    此外,如果 是无穷大, (A—B)+B 产生一个nan。