Matlab提示:轴限制超出浮点精度 是什么意思
答案:1 悬赏:0 手机版
解决时间 2021-03-07 02:28
- 提问者网友:献世佛
- 2021-03-06 16:11
Matlab提示:轴限制超出浮点精度 是什么意思
最佳答案
- 五星知识达人网友:你哪知我潦倒为你
- 2021-03-06 16:45
a=1.23456789
b=vpa(a,7)
b = 1.234568
vpa(a,12)
ans = 1.23456789000
format:设置输出格式 对浮点性变量,缺省为format short.
format并不影响matlab如何计算和存储变量的值。
对浮点型变量的计算,即单精度或双精度,按合适的浮点精度进行,而不论变量是如何显示的。
对整型变量采用整型数据。整型变量总是根据不同的类(class)以合适的数据位显示,
例如,3位数字显示显示int8范围 -128:127。
b=vpa(a,7)
b = 1.234568
vpa(a,12)
ans = 1.23456789000
format:设置输出格式 对浮点性变量,缺省为format short.
format并不影响matlab如何计算和存储变量的值。
对浮点型变量的计算,即单精度或双精度,按合适的浮点精度进行,而不论变量是如何显示的。
对整型变量采用整型数据。整型变量总是根据不同的类(class)以合适的数据位显示,
例如,3位数字显示显示int8范围 -128:127。
我要举报
如以上问答信息为低俗、色情、不良、暴力、侵权、涉及违法等信息,可以点下面链接进行举报!
大家都在看
推荐资讯