vb中single与double

vb中single与double

因为single和double占用的内存长度不同，single是4字节，double是8字节，所以
single能表示最大精度是小数点后约六位，double能表示的精度是小数点后14位，

1.1+1.1=2.20000002384186

因为这个式子里都是single，那么结果中小数点后六位之前是准确的，六位以后就是不准确的。

因为输出的是按double处理的，所以，显示为精确到小数点后14为，所以，才出现误差，而你如果使用double计算，因为还在有效精度范围内，所以不会有误差。

如果你输出的是按single处理的，那么也不会有误差。

下面的代码你可运行一下，就能理解了：

Dim a As Single, b As Single, c As Double, d As Single
a = 1.1
b = 1.1
c = a + b
d = a + b
Debug.Print c, d

输出结果： 2.20000004768372 2.2

如果存在类型转换，那么可能就有误差，如果没有精度转换，那么就不会有误差

看看

参考资料：http://topic.csdn.net/u/20081018/19/4c0ff03c-8d51-400d-9ca7-141c5773ec5d.html

如以上回答内容为低俗、色情、不良、暴力、侵权、涉及违法等信息，可以点下面链接进行举报！

点此我要举报以上问答信息