请问matlab中如何控制数据精度?matlab默认的数据类型是double(64位) 现在我生成了一些小数数值 想让它们以小数点后不同的位数参与运算查看结果:例如:1.23568561、取小数点后1位:取1.2运算 ;2、
来源:学生作业帮助网 编辑:六六作业网 时间:2024/12/28 08:58:56
请问matlab中如何控制数据精度?matlab默认的数据类型是double(64位) 现在我生成了一些小数数值 想让它们以小数点后不同的位数参与运算查看结果:例如:1.23568561、取小数点后1位:取1.2运算 ;2、
请问matlab中如何控制数据精度?
matlab默认的数据类型是double(64位) 现在我生成了一些小数数值 想让它们以小数点后不同的位数参与运算查看结果:
例如:1.2356856
1、取小数点后1位:取1.2运算 ;
2、取小数点后3位:取1.236运算;
3、取小数点后5位:取1.23569运算;
……
应当怎么处理?
format函数不行,format只能改变显示长度,对参与运算的精度无法控制
用vpa也不行,因为vpa只能取有效数字,碰到太小的数比如0.000000567754这样的数就无法控制取小数点后几位了
请问该如何处理?
请问matlab中如何控制数据精度?matlab默认的数据类型是double(64位) 现在我生成了一些小数数值 想让它们以小数点后不同的位数参与运算查看结果:例如:1.23568561、取小数点后1位:取1.2运算 ;2、
从您的提问中可以发现,您是有一定的Matlab基础的.
我建议您用round函数进行控制精度.延用您举的例子.为了书写方便,就设1.2356856为x.
取小数点后1位,round(x*10)/10即可;
取小数点后2位,round(x*100)/100即可;
依此类推,取小数点后n位,round(x*10^n)/10^n即可;
取小数点前1位,round(x/10)*10即可;
取小数点前2位,round(x/100)*100即可;
依此类推,取小数点前n位,round(x*10^(-n))/10^(-n)即可;
希望我的回答能够解答您的疑惑,