单精度有效数是7位,部分数可以取到8位

xiaoxiao2025-08-05  43

/单精度数的尾数用23位存储,加上默认的小数点前的1位1,2^(23+1) = 16777216。 //因为 10^7 < 16777216 < 10^8 因此效位数是7位,部分数可以取到8位

转载请注明原文地址: https://www.6miu.com/read-5034314.html

最新回复(0)