|
1
8
浮点数使用指数尾数表示法存储(类似于小学教的科学记数法)。可用于存储尾数和指数的位数取决于特定的类型(Java中的float vs double,以及列出的更不寻常的类型) here 以及其他地方)。 表示数值76028223的一种方法是1.00100010000001001011011111(目前尚未提及任何特定的浮点类型) 2. * 2^26.
尾数
相反,我们可以用浮点数做的最好的事情是使用最接近的24位(1.23位)尾数,即1.001000100000010101000(通过对前一个尾数进行四舍五入获得)。这个尾数,加上正确的指数,代表1.001000100000010101000 2. * 2^26 = 76028224.
例如,这种截断会导致一些意想不到的惊喜
A.
1. “小数点”前的前导位对于非整数总是1- subnormal 浮动,因此不需要存储。 |
|
|
Leo · 为什么carg(-0)返回-pi? 1 年前 |
|
Fyodor · 在C中使用sin和cos计算数学表达式不正确? 1 年前 |
|
|
Alexander · 为什么数字的输出不同? 1 年前 |
|
Ronny · 如何防止程序返回“inf”? 1 年前 |
|
|
EMS · 为什么双重打印的值与C中的浮点值相同,而它们的大小不同? 1 年前 |
|
|
Dakolas · 对python十进制库感到困惑 2 年前 |
|
|
RTC222 · 无法获取vrndscalepd的正确舍入模式代码 2 年前 |