vb中single与double我在做一个很简单的vb计算器时 定义x,y为single时 计算小数时 比如1.1+1.1=2.20000002384186为什么后面会. 但定义为double时就对了原因? 我要根本的原因 不要说 一个是单精度 一个是

来源:学生作业帮助网 编辑:六六作业网 时间:2024/12/20 05:40:14
vb中single与double我在做一个很简单的vb计算器时定义x,y为single时计算小数时比如1.1+1.1=2.20000002384186为什么后面会.但定义为double时就对了原因?我

vb中single与double我在做一个很简单的vb计算器时 定义x,y为single时 计算小数时 比如1.1+1.1=2.20000002384186为什么后面会. 但定义为double时就对了原因? 我要根本的原因 不要说 一个是单精度 一个是
vb中single与double
我在做一个很简单的vb计算器时 定义x,y为single时 计算小数时 比如1.1+1.1=2.20000002384186为什么后面会. 但定义为double时就对了
原因? 我要根本的原因 不要说 一个是单精度 一个是双精度 请跟我一步一步的讲 谢谢!

vb中single与double我在做一个很简单的vb计算器时 定义x,y为single时 计算小数时 比如1.1+1.1=2.20000002384186为什么后面会. 但定义为double时就对了原因? 我要根本的原因 不要说 一个是单精度 一个是
因为single和double占用的内存长度不同,single是4字节,double是8字节,所以
single能表示最大精度是小数点后约六位,double能表示的精度是小数点后14位,
1.1+1.1=2.20000002384186
因为这个式子里都是single,那么结果中小数点后六位之前是准确的,六位以后就是不准确的.
因为输出的是按double处理的,所以,显示为精确到小数点后14为,所以,才出现误差,而你如果使用double计算,因为还在有效精度范围内,所以不会有误差.
如果你输出的是按single处理的,那么也不会有误差.
下面的代码你可运行一下,就能理解了:
Dim a As Single, b As Single, c As Double, d As Single
a = 1.1
b = 1.1
c = a + b
d = a + b
Debug.Print c, d
输出结果: 2.20000004768372 2.2
如果存在类型转换,那么可能就有误差,如果没有精度转换,那么就不会有误差

VB中single与double的区别 vb中single与double我在做一个很简单的vb计算器时 定义x,y为single时 计算小数时 比如1.1+1.1=2.20000002384186为什么后面会. 但定义为double时就对了原因? 我要根本的原因 不要说 一个是单精度 一个是 VB中Integer、Long、Single、Double、Currency、String意思不是 这个我教材上也有 通俗易懂的 VB 中定义变量时,string,integer,long,single和double这些常用的数据类型具体在什么情况下定义?VB 中定义变量时,string,integer,long,single和double这些常用的数据类型分别具体在什么情况下定义?我指的是 VB中single DOUBLE的位数太多 我只想要四位 想在VB中定义一种 数据类型 用变体类型实现 只保留小数点后四位 苦咖啡里的single和double是什么意思?我常喝意大利苦咖啡,也常听说是要single还是double? double(*y)(double)在C++中是什么意思 VB中的 Double是什么意思 VB中Mod函数问题a是double型变量,a=19.5mod2*2 余数不是3.5么 ,怎么在VB里是0 已知两点坐标,在vb中怎样计算两点连线与水平线的角度?求公式代码我需要在VB中的代码啊 single、double、triple、4?once、twice、3?single、double、triple、四倍怎么说?once、twice、三回怎么说?我查到quadruple是四倍,5倍、6倍呢? 在vb中是什么意思 在选宿舍,不清楚这几种room type 的区别:one bedroom apartment,2 bedroom apartment,double,single,tripple,double in suite,single in suite,central campus suite,quad, Single与Double分别能保留都少位小数?多少位数?如题 如何在matlab图像中从unit8转换成Double或single 外国人要住宾馆,一人一房,我订double room还是single room ,xiexie 外国人要住宾馆,一人一房,我订double room还是single room ,xiexie