c中float型乘法出现0.000001的误差该怎么避免
答案:2 悬赏:60 手机版
解决时间 2021-01-28 01:33
- 提问者网友:活着好累
- 2021-01-27 03:54
c中float型乘法出现0.000001的误差该怎么避免
最佳答案
- 五星知识达人网友:猎心人
- 2021-01-27 05:29
这是精度问题,没法避免
或者你就换数据类型,换成double会提高不少精度
或者你就换数据类型,换成double会提高不少精度
全部回答
- 1楼网友:持酒劝斜阳
- 2021-01-27 06:34
计算机里存储的是2进制数据
象你这种数据转换的2进制是无限位的
当然就不精确了
double和 float的精度不同的
double 8字节 float 4字节
不过应该尽量避免用double浪费内存跟时间
我要举报
如以上问答信息为低俗、色情、不良、暴力、侵权、涉及违法等信息,可以点下面链接进行举报!
大家都在看
推荐资讯