永发信息网

EXCEL、WPS计算错误? 在单元格中输入:=17.9-15.9-2 结果1.77636E-15 是不是错了?

答案:4  悬赏:0  手机版
解决时间 2021-11-30 10:35
EXCEL、WPS计算错误? 在单元格中输入:=17.9-15.9-2 结果1.77636E-15 是不是错了?
最佳答案
是浮点误差造成的,微软和金山现在都没有办法解决此问题。
1.77636E-15 值就是0.00000000000000177636追问关键是我在后面的计算中用到这个值,而且放大了额E12倍,就是0.00177636,最终结果错得一塌糊涂。
“微软和金山现在都没有办法解决此问题”?那不完蛋了?
另外:
在单元格中输入:=78.35-25-13.7-37.15-2.5 结果:-7.10543E-15
在单元格中输入:=53.35-13.7-37.15-2.5 结果:7.10543E-15(误差-变+了)
在单元格中输入:=41.2-25-13.7-2.5 结果:3.55271E-15 (浮点误差减半了?)追答浮点误差是机器转换为二进制后计算,再将二进制转换为十进制而产生的。并不是说所有的数据都会出现误差。只是PC机,一般的应用程序而已,高尖端问题是不用此类计算机计算的。可能是汇编语言编写的运行程序或者高级语言编写的程序。
全部回答
请搜索“浮点运算”。这个是浮点运算的问题。

我的EXCEL不会这样,,我用的是WPS office追问wps 我试过也是这样的?追答呵呵,,我刚试过的,,没问题。。结果的确是0.追问我用的是office 2000,wps抢鲜版,同样的错误。
强调一下是直接输入=17.9-15.9-2追答楼主一定是没有修改单元格属性 。改成数值你再看看。算算术是要改属性的哇。。追问我开始用常规显示1.77636E-15,改成数值后显示0.00,将小数位数设为20后显示0.00000000000000177636。
为什么别人提到“浮点运算”误差,而你没有这个误差呢?追答不是我没有这个误差,这个误差是计算机无法避免的,,但是我们在表格计算的时候不需要考虑到这么小的误差不是吗,,谁会去关心一个等于0的数值还要写上负多少次方的小数呢?又不是造航天飞机。所以在运行表格的时候,通常我们是把小数位限制在一定范围内的。
我要举报
如以上问答信息为低俗、色情、不良、暴力、侵权、涉及违法等信息,可以点下面链接进行举报!
大家都在看
CF新年期间有什么活动?
辅可以组什么词语
辟易是什么意思?
朋友送了我一只小仓鼠,但是我和朋友都是从来
69亿8千万韩元等于多少人民币
如图,⊿MNP中,∠P=60°,MN=MP,MQ⊥PN,垂足
hp deskjet 1010喷墨打印机怎么清洗,属性里
物资学院路地铁站到大屯路东地铁站怎么走
mdl模型文件用什么可以打开?
蒙语中“寂静”怎么说
怎样保存豆类,谷类不生虫(用最简单的方法)
武汉哪里能买到薇姿护肤品
在健身房减肥真正顺序怎练?
板面卤汤和牛肉面卤汤做法有什么区别
怎样养殖豆丹
推荐资讯
扁鹊见齐桓公
织物透气性有何标准
室外推拉衣架,室内手摇衣架,伸缩衣架能统称
80分之1+60分之一的过程
grach模型求出系数后怎么求预测值
牧野区新乡牧野区第二实验小学地址是什么,有
软件组件的几种现代软件组件和技术的比较
送给明年的自己作文
张家口市金风大厦餐厅信誉度怎样
泾渭茯茶那个季节喝
平法粱--JZL1(1)300*700 ?8@100/200(
图纸中L-1500什么意思?
正方形一边上任一点到这个正方形两条对角线的
阴历怎么看 ?