posts - 27,comments - 2,trackbacks - 0
在简单地main函数中输出的结果:0.8999999999999999;而非0.9;因为是以二进制存储的,所以不能除尽1/10。
解决方法有:1,System.out.printf("%.1f",2.0-1.1);   
还有一个网上看到的:在double变量存入堆时确保精度的方法: System.out.println(new BigDecimal(1.1)); 输出的值为一大长串为:1.100000000000000088817841970012523233890533447265625
posted on 2012-02-28 19:17 魏文甫 阅读(808) 评论(0)  编辑  收藏

只有注册用户登录后才能发表评论。


网站导航: