1
17
这是{花括号语言}(包括C#)中的标准陷阱,使用整数操作数的除法作为
整数
除法,而不是浮点除法。它总是产生整数结果,
通过将其中一个操作数转换为双倍,可以强制执行浮点除法。喜欢
与乘法类似的问题,但通常不太像陷阱,整数操作数会产生溢出风险的整数结果。这反映了处理器的工作方式,它对这些操作有不同的指令,IMUL vs FMUL,IDIV vs FDIV。后一个因奔腾处理器中的一个错误而闻名:) |
2
1
您可以尝试为多维数据集根功能运行此代码。
|
3
-1
错误(顺便说一下
如果数字在某个阈值内,您可以通过四舍五入来规避此问题:
哪里
|
4
-1
|
5
-2
试试看
|
Nouphal.M · 数学pow给出错误结果 6 年前 |
Adi · 将powf结果返回到主函数C编程[关闭] 6 年前 |
Luiz Miranda · 尾递归pow-Erlang 7 年前 |
gkb · 使用C中的System.Math.Pow()方法查找数字的立方根# 10 年前 |