代码之家 › 专栏 › 技术社区 › Martin Liversage

将表示形式从十进制数转换为浮点数-陷阱

decimal floating-point

Martin Liversage · 技术社区 · 15 年前

我正在研究金融应用程序的一些功能。在代码和数据库中,所有数字都表示为小数,不存在舍入错误。但是,我遇到了一些性能问题,我正在考虑在自己的计算中切换到浮点数(float/double)。这是基于四舍五入误差不是问题的假设(我将不得不与客户核实)。

2 回复 | 直到 15 年前

Aaron 15 年前

使用float的问题是,最终会(可能)出现意外的精度问题。

如果使用float,那么可以正确表示的最大值将为167772.16美元。如果你使用双倍,那么最大值会更好(大约180万亿美元)。

itsadok 15 年前

财务应用程序通常是不使用浮点。所以要小心。

不管怎样, this article

推荐文章

user unknown · 打印格式调整小数点

7 年前

Paul Nie · C字符数组中的十进制到二进制

7 年前

Roman112100 · 在int等[python]中转换bin

7 年前

INs · MySQL保存浮点错误

7 年前

Gustav · 第二个变量取第一个值

7 年前

rosi97 · VBA字符串到整数,无舍入

7 年前

Sumit · 小数点后的长度

7 年前

Moamen Naanou · 更改默认十进制数解析行为

7 年前

Maxim CH Chernykh · 指数到十进制java android

7 年前

Cassie · 查找73个回文

7 年前