C++ float double 的有效位

xiaoxiao2021-02-28  225

结论:

有些编译器 float的有效数字位是 8位 , 有些有效数字位是 7位有些编译器double的有效数字位是 15位, 有些是 16位注意printf(“%f”, x); // 默认输出6位小数(不要和有效数字混淆)

分析

C/C++编译器标准都遵照IEEE制定的浮点数表示法来进行float,double运算

无论是float还是double,在内存中的存储主要分成三部分,分别是:

(1)符号位(Sign): 0代表正数,1代表负数 (2)指数位(Exponent): 用于存储科学计数法中的指数部分,并且采用移位存储方式 (3)尾数位(Mantissa): 用于存储尾数部分

由图可知:

float 是 32位, 其中有23位用于存放尾数, 带有一个固定隐含位.. 所以float的有24个二进制有效位位数.

2^24共有8个十进制位. 所以有些编译器 float的有效数字位是 8位 , 有些有效数字位是 7位.(注意不是小数的位数, 是有效数字位)

double也一样,是64位, 其中有52位用于存放尾数, 一个固定隐含位. 共有 53个二进制有效位位数.

2^53次方有15个十进制位, 所以有些编译器double的有效数字位是15位, 有些是16位
转载请注明原文地址: https://www.6miu.com/read-27070.html

最新回复(0)