永发信息网

为什么字长较短的计算机上计算相近数值的减法会有较大误差?

答案:2  悬赏:50  手机版
解决时间 2021-01-30 00:25
为什么字长较短的计算机上计算相近数值的减法会有较大误差?
最佳答案
首先,可以用标准的10位计算器做实验:
计算900000^2-899998*900002。
计算器显示的结果是零。但是实际上运用中学所学的平方差公式,可以知道他们的差应该是4。分析原因,是因为计算器分别计算900000^2与899998*900002,由于计算器的位数不够,所以这两个结果都被用科学计数法表示成了8.1*10^11。于是做减法之后结果得零。

类似的,对于字长较短的计算机,其整形数据(“int”,用二进制将数据整个的表示出来,可以参考计算器上显示出的整数)表现力不足,所以对于值比较大或者说长度较大的数据,就需要将其转化为双精度类型的数据(“double”,类似科学计数法,比如说上边的900000^2和899998*900002都被表示为8.1*10^11。计算机中数据表示方法与此略有不同,但是本质上都是科学计数法),这就会导致有效数字的丢失。所以说,在实际数值计算的时候,应该避免像这样的相近的数做减法。
全部回答
你好! 字长短了,要求就精确了,近似之后误差当然就大了 我的回答你还满意吗~~
我要举报
如以上问答信息为低俗、色情、不良、暴力、侵权、涉及违法等信息,可以点下面链接进行举报!
大家都在看
江浙沪皖包括广州吗
深圳PCBA加工厂所说的上机费和工程费是什么?
我手被刀切了下、肉都出来了。怎么才能让他好
昆明教育咨询培训服务中心地址好找么,我有些
TK桌游地址在哪,我要去那里办事
涸鲋的意思是什么啊?知道的请说下!
J&Y桌面游戏吧地址有知道的么?有点事想
东南亚主要的粮食作物是A. 水稻B. 小麦C. 玉
萨摩耶得了犬瘟能吹空调吗?
WIN8 安装 visual studio 2012 要求 .net fra
未来民生保障将会持续得到改善吗?
s6劫和妖姬练哪个好
亨德森学校(一二一大街教学区)地址在哪,我要
开统的意思是什么啊?知道的请说下!
张明出生在农村,家庭条件不是很好,但父母坚
推荐资讯
某女,每于经期或经前一二日小腹胀痛拒按,月
Yoli日式美甲美睫地址有知道的么?有点事想过
楼上跑水赔偿有精神损失费吗
用72米的篱笆围成一个长方形菜地面积最大是多
议决案的意思是什么啊?知道的请说下!
小兰,今年23岁,高职毕业后一直没有固定的工
美的空调柜机运行模式不断变化而且灯亮且有响
取名嘉靖是什么意思
红岩最感人的故事是什么
雄讯网吧地址在什么地方,我要处理点事
买过血源诅咒是不是只要老猎人dlc就只能在psn
翻却的意思是什么啊?知道的请说下!
正方形一边上任一点到这个正方形两条对角线的
阴历怎么看 ?