vb数值相减问题。
答案:3 悬赏:10 手机版
解决时间 2021-03-23 07:15
- 提问者网友：玫瑰园
- 2021-03-22 15:29
MsgBox 9.1 - 9 ，得到的结果为什么等于9.99999999999996E-02？
最佳答案
- 五星知识达人网友：佘樂
- 2021-03-22 17:00
9.1-9=0.1
9.9999999999E-02 是科学计数法其值为0.099999999999
0.1与0.09999999999差0.000000000001这个0.000000000001是计算的误差，并不是bug
任何一种语言在浮点数计算时都有误差
如果不想有这种误差 那就不要用浮点数类型
用 currency 类型
9.9999999999E-02 是科学计数法其值为0.099999999999
0.1与0.09999999999差0.000000000001这个0.000000000001是计算的误差，并不是bug
任何一种语言在浮点数计算时都有误差
如果不想有这种误差 那就不要用浮点数类型
用 currency 类型
全部回答
- 1楼网友：酒醒三更
- 2021-03-22 19:20
vb根部不是这样相减的啊！！！！
- 2楼网友：雪起风沙痕
- 2021-03-22 18:04
不知道什么原因。
你试试执行print 9.1-9 看结果是否相同。我估计这是VB的Bug
我要举报
如以上问答信息为低俗、色情、不良、暴力、侵权、涉及违法等信息，可以点下面链接进行举报！
大家都在看
推荐资讯