代码之家 › 专栏 › 技术社区 › Kay

末位单位定义

floating-point

Kay · 技术社区 · 6 年前

的概念 ulp公司 s看起来很简单。然而,在早期的一个例子中,作者提出了一个主张(在第 保护位 )

在比较计算值时: (0.02 x 10) 到真实值 (0.17) 计算的 (10.1-9.93) ,错误为 30ulps 。

根据本文前面给出的公式,误差应为:

|0.02-0.017 |*100 = 0.3ulps ,这对我来说很有意义。

很明显,我错过了一些非常重要的东西。

2 回复 | 直到 6 年前

Eric Postpischil 6 年前

在演示减法时,Goldberg将结果显示为0.02 10 ^1. 。这将保留输入和减法中使用的指数。但是,它不是结果的归一化指数。

在本例中,精度 P 是3位数。因此,计算结果。02 10 ^1. 可以表示为2.00Ã10 ^1. ,精确的数学结果为1.70 10 ^第1页 .这两种表述的ULP均为0.01 10 ^1. ,计算结果与数学结果相差30 ULP。

Student Sneftel 5 年前

有2个数字并不意味着1个ulp是0.01。这个单位的关键在于它是相对于一个特定数字的精度而言的。0.02 is 2.00*10 ^-2 ;0.017 is 1.70*10 ^-2 ;在1.70和2.00之间有30个步骤

Err = | 2.00 - 1.70 | (10Â²)
    = 30 ulps

(由于这两个结果恰好具有相同的指数,因此我们可以轻松确定哪一个“定义”ulp,但我们不按10.1或9.93定义。)

推荐文章

Rik Bloemers · for循环不接受任何浮点变量

2 年前

Nathan Pierson · 为什么0.125(格式为2位十进制精度)显示“0.12”而不是“0.13”?

2 年前

zell · 为什么存储7个浮点数需要34字节?

2 年前

Atharva Sunil Sathe · 如何删除任意数的小数点?

2 年前

user1658887 · 为什么**2!=a*a一些彩车?

6 年前

Kay · 末位单位定义

6 年前

vApor · 为数据类型分配的默认内存在舍入中起作用吗?如果浮点超过分配的内存,则以何种方式舍入?

6 年前

Caucasian Malaysian · 如何将函数输出转换为数字[重复]

6 年前

Ritielko · 在C中使用rand()生成大量双精度时发生分段错误

6 年前

Some_Dude · x8086组件,将0.0001推到堆栈上成为9.99999。。而不是0.0001

6 年前