代码之家 › 专栏 › 技术社区 › Peter

Ruby中的舍入不一致?

ruby

Peter · 技术社区 · 15 年前

Ruby的舍入有缺陷吗?为什么会这样:

>> [1.14, 1.15, 1.16].map{|x| "%.1f" % x}
=> ["1.1", "1.1", "1.2"]
>> [1.4, 1.5, 1.6].map{|x| "%.0f" % x}
=> ["1", "2", "2"]

如中所述,为什么1.15四舍五入为1.1,而1.5四舍五入为2?至少,这不是前后矛盾吗?Ruby1.9.1和Ruby1.8.7中的行为是相同的。

3 回复 | 直到 15 年前

Community CDub 7 年前

看看我对这个问题的回答

这可能是同一件事

Chuck 15 年前

你用的是浮点数。浮点数不精确。见 http://en.wikipedia.org/wiki/IEEE_754-2008 标准简介。

简短的版本是:不要在任何需要精确性的地方使用浮动!

DigitalRoss 15 年前

回想起来很有用,思考起来也很讽刺,但浮点数只精确地表示:(a)几个分数或(b)所有整数。

因此,要得到精确的表示,分数必须由(负)两个幂组成。因此,以下分数是0.01和0.99之间唯一精确表示的分数:

0.25
0.50
0.75

换句话说,处理整数时,fp是完全准确的。算了吧。

推荐文章

Community wiki · 如果我调用Factory.build以使我的控制器测试快速,我如何让Factory Girl永远不会访问数据库?

1 年前

karuhi wairi · 如何解决在尝试运行rake server或rackup config.ru时出现的错误

1 年前

Community wiki · 使用RJB(Ruby java Bridge)的OpenNLP中的java.lang.NullPointerException

1 年前

thesunneversets · 如何使用Nikkou(新手Ruby问题!)

2 年前

Stilian · 存储库设置中没有Github页面部分

2 年前

Kellen · 查看$卷展栏功能列表

2 年前

Akshit Thakur Ak · 我怎样才能把铁轨停下来?

2 年前

Chowlett · Ruby数组#shuffle中的默认随机参数是什么

2 年前

johncssjs · 将数组转换为每个元素的嵌套哈希

2 年前

solidsnake99 · Rails db:如何绕过验证

2 年前