用eclipse写Java,计算0.1*0.1,结果为什么是0.010000000000000002?如图所示。

2024-11-17 12:40:45
推荐回答(2个)
回答1:

0.1的二进制是0.0001100110011.。。。。。而JVM计算会将十进制装换为二进制进行计算,所以结果略有偏差

回答2:

结果不能算是错误,浮点运算有时候不能保证精度,你可以自己写一个精度算法,或者直接截取一下.保留多少位小数,所以有时候你写程序判断两个浮点数相等的时候要特别注意一下。
JAVA里面有一个BigDecimal类,可以解决做浮点运算时精度问题,你可以看看它的API学习一下