EXCEL、WPS计算错误? 在单元格中输入:=17.9-15.9-2 结果1.77636E-15 是不是错了?
答案:4 悬赏:0 手机版
解决时间 2021-11-30 10:35
- 提问者网友:献世佛
- 2021-11-29 12:40
EXCEL、WPS计算错误? 在单元格中输入:=17.9-15.9-2 结果1.77636E-15 是不是错了?
最佳答案
- 五星知识达人网友:等灯
- 2021-11-29 14:14
是浮点误差造成的,微软和金山现在都没有办法解决此问题。
1.77636E-15 值就是0.00000000000000177636追问关键是我在后面的计算中用到这个值,而且放大了额E12倍,就是0.00177636,最终结果错得一塌糊涂。
“微软和金山现在都没有办法解决此问题”?那不完蛋了?
另外:
在单元格中输入:=78.35-25-13.7-37.15-2.5 结果:-7.10543E-15
在单元格中输入:=53.35-13.7-37.15-2.5 结果:7.10543E-15(误差-变+了)
在单元格中输入:=41.2-25-13.7-2.5 结果:3.55271E-15 (浮点误差减半了?)追答浮点误差是机器转换为二进制后计算,再将二进制转换为十进制而产生的。并不是说所有的数据都会出现误差。只是PC机,一般的应用程序而已,高尖端问题是不用此类计算机计算的。可能是汇编语言编写的运行程序或者高级语言编写的程序。
1.77636E-15 值就是0.00000000000000177636追问关键是我在后面的计算中用到这个值,而且放大了额E12倍,就是0.00177636,最终结果错得一塌糊涂。
“微软和金山现在都没有办法解决此问题”?那不完蛋了?
另外:
在单元格中输入:=78.35-25-13.7-37.15-2.5 结果:-7.10543E-15
在单元格中输入:=53.35-13.7-37.15-2.5 结果:7.10543E-15(误差-变+了)
在单元格中输入:=41.2-25-13.7-2.5 结果:3.55271E-15 (浮点误差减半了?)追答浮点误差是机器转换为二进制后计算,再将二进制转换为十进制而产生的。并不是说所有的数据都会出现误差。只是PC机,一般的应用程序而已,高尖端问题是不用此类计算机计算的。可能是汇编语言编写的运行程序或者高级语言编写的程序。
全部回答
- 1楼网友:山有枢
- 2021-11-29 16:34
请搜索“浮点运算”。这个是浮点运算的问题。
- 2楼网友:酒醒三更
- 2021-11-29 16:13
- 3楼网友:低音帝王
- 2021-11-29 15:09
我的EXCEL不会这样,,我用的是WPS office追问wps 我试过也是这样的?追答呵呵,,我刚试过的,,没问题。。结果的确是0.追问我用的是office 2000,wps抢鲜版,同样的错误。
强调一下是直接输入=17.9-15.9-2追答楼主一定是没有修改单元格属性 。改成数值你再看看。算算术是要改属性的哇。。追问我开始用常规显示1.77636E-15,改成数值后显示0.00,将小数位数设为20后显示0.00000000000000177636。
为什么别人提到“浮点运算”误差,而你没有这个误差呢?追答不是我没有这个误差,这个误差是计算机无法避免的,,但是我们在表格计算的时候不需要考虑到这么小的误差不是吗,,谁会去关心一个等于0的数值还要写上负多少次方的小数呢?又不是造航天飞机。所以在运行表格的时候,通常我们是把小数位限制在一定范围内的。
强调一下是直接输入=17.9-15.9-2追答楼主一定是没有修改单元格属性 。改成数值你再看看。算算术是要改属性的哇。。追问我开始用常规显示1.77636E-15,改成数值后显示0.00,将小数位数设为20后显示0.00000000000000177636。
为什么别人提到“浮点运算”误差,而你没有这个误差呢?追答不是我没有这个误差,这个误差是计算机无法避免的,,但是我们在表格计算的时候不需要考虑到这么小的误差不是吗,,谁会去关心一个等于0的数值还要写上负多少次方的小数呢?又不是造航天飞机。所以在运行表格的时候,通常我们是把小数位限制在一定范围内的。
我要举报
如以上问答信息为低俗、色情、不良、暴力、侵权、涉及违法等信息,可以点下面链接进行举报!
大家都在看
推荐资讯