![]() |
1
3
IEEE 754要求一致性实现提供平方根和从十进制转换为浮点的操作 正确四舍五入 :
最常用的舍入模式舍入到最接近的可表示值。在平局的情况下,它舍入到具有偶数低位的值。一种将平局从零舍入的变体。
关于问题1,假设
其他舍入规则在特定方向上舍入到最近的数字,即朝+无穷大、朝无穷大或朝零的方向之一。混乱的
请注意,许多平台会声称使用IEEE 754格式,但这并不意味着它们符合IEEE 754操作规则,包括平方根和从十进制到浮点的转换。 问题2是相同的。
问题3具有相同的推理(应用两次:
问题4成立,现在弱单调性应用了三次。 |
![]() |
Denis · 双精度C++,308位数字或15位数字? 3 年前 |
![]() |
nellapizza · python楼层划分操作符是如何实现的? 6 年前 |
![]() |
comte · 如何在SQL数据库中存储python浮点 7 年前 |
![]() |
user2255757 · 如何正确分配cuda半精度阵列? 7 年前 |
![]() |
Hari · 除以2后的结果与乘以0.5后的结果之差 7 年前 |
![]() |
gansub · Newton Raphson迭代-无法迭代 7 年前 |
![]() |
Alex · 任意精度的numpy数组(10位int) 7 年前 |