代码之家 › 专栏 › 技术社区 › Nathan Pierson

为什么0.125(格式为2位十进制精度)显示“0.12”而不是“0.13”?

string-formatting floating-point c++

Nathan Pierson · 技术社区 · 2 年前

考虑:

#include <iostream>
#include <iomanip>
 
int main()
{
    std::cout << std::fixed << std::setprecision(2);
    std::cout << 0.125 << '\n'; // Prints "0.12"
    std::cout << 0.126 << '\n'; // Prints "0.13" as expected
}

Demo

我知道浮点数学不是很精确,但不是 0.125 实际准确表示的值之一?为什么它归结为 "0.12" 而不是最多 "0.13" 格式化时?

1 回复 | 直到 2 年前

Mark Ransom 2 年前

对 0.125 是应具有精确二进制表示形式的少数浮点值之一。

您的舍入模式可能设置为 round-half-to-even .

推荐文章

Rik Bloemers · for循环不接受任何浮点变量

2 年前

Nathan Pierson · 为什么0.125(格式为2位十进制精度)显示“0.12”而不是“0.13”?

2 年前

zell · 为什么存储7个浮点数需要34字节?

2 年前

Atharva Sunil Sathe · 如何删除任意数的小数点?

2 年前

user1658887 · 为什么**2!=a*a一些彩车?

6 年前

Kay · 末位单位定义

6 年前

vApor · 为数据类型分配的默认内存在舍入中起作用吗?如果浮点超过分配的内存,则以何种方式舍入?

6 年前

Caucasian Malaysian · 如何将函数输出转换为数字[重复]

6 年前

Ritielko · 在C中使用rand()生成大量双精度时发生分段错误

6 年前

Some_Dude · x8086组件,将0.0001推到堆栈上成为9.99999。。而不是0.0001

6 年前