c语言中的float数据类型的有效数字为什么是6~7位
什么情况是6位
什么情况是7位
是否有代码示范一下
c语言中的float数据类型的有效数字为什么是6~7位
答案:1 悬赏:20 手机版
解决时间 2021-02-23 14:54
- 提问者网友:孤山下
- 2021-02-23 01:03
最佳答案
- 五星知识达人网友:行路难
- 2021-02-23 01:55
float数据 机器内是2进制数,
1位符号位
8位指数位
23位“尾数”位
共32 位 2进制数.
平时讲 有效数字 是6~7位 ,指10进制.
通常程序输入的数是10进制,进入机器后要化成2进制,计算完又转十进制输出.
10进制到2进制,2进制到10进制 转换,有的数化不净,有的数化得净.
如同10进制分数化10进制小数,有的化得净(例如 4分之1,变0.25),有的化不净(例如 3分之1,变0.33333.).
10进制到2进制,2进制到10进制 转换,化得净的效数字7位,化不净的效数字6位,因为最后一位有舍入误差.
例如:
float x,y;
x=0.51; // 化不净
y=0.5; // 化得净
printf(x=%.8f y=%.8,x,y); // 输出 0.50999999 0.50000000
我要举报
如以上问答信息为低俗、色情、不良、暴力、侵权、涉及违法等信息,可以点下面链接进行举报!
大家都在看
推荐资讯