计算机计算方式方面的问题.

来源:学生作业帮助网 编辑:六六作业网 时间:2024/11/22 18:06:25
计算机计算方式方面的问题.计算机计算方式方面的问题.计算机计算方式方面的问题.应该不是.这个计算有限步内就能完成,不用啥截断误差.应该是matlab把这里面的数字当成浮点数来计算了.浮点数的计算其实是

计算机计算方式方面的问题.
计算机计算方式方面的问题.

计算机计算方式方面的问题.
应该不是.这个计算有限步内就能完成,不用啥截断误差.应该是matlab把这里面的数字当成浮点数来计算了.浮点数的计算其实是有误差的,比如 a = 0.5 * 2.0; 这个时候 a不一定等于0.1.注意是“不一定”,不是“一定不”.
具体可以baidu一下计算机里面的浮点数编码方式.