鹰翔宇空

学习和生活

BlogJava 首页 新随笔 联系 聚合 管理
  110 Posts :: 141 Stories :: 315 Comments :: 1 Trackbacks

这两天,不断的有人问我java中数值计算的精度问题,以前在项目中碰到过,吃了不少苦头,但一直也没管它,现在先小结一下,以后再慢慢补充吧,否则,过段时间又忘了。
     java
中的基本类型float有着很严重的精度缺失问题,这个我主要是通过java.math.BigDecimal来弥补,但BigDecimal毕竟是一个类,有着对象的创建销毁等繁琐的事情,况且java中类本身没有destroy()方法,这就把一切对象的彻底销毁后内存的回收,变成了一个不可测的变数,纵使你调用了system.gc(),但此方法的执行时机却又是未知的;所以这就要求程序员要尽可能少的创建对象(当然这还与java本身的确非常消耗内存有关),当对象一旦不用,尽可能的置为null,否则当程序运行几次后就会发现内存占有率高居不下,甚至有导致死机可能。BigDecimal还有一点要引起注意的是,两个对象即使值确实相等,但它们相比较时也可能会引起不等的结果,举个例子如:

BigDecimal testA = new BigDecimal(200)BigDecimal testB = new BigDecimal(200.00),也许你认为testA.equals(testB)==true;但结果是false。然而testA.toString().equals(testB.toString())==true,这是因为testB.toString()的值为200,在进行类型转换时,它已把小数点后的两个零去掉了。为了解决这个问题,我通常的做法是将它们的小数点位数补起后再进行比较,这样是肯定不会出错了,如testA = testA.setScale(2,5);testB = testB.setScale(2,5);当然了你可以根据需要将小数点位数设多或设置少一点,setScaleint,int)中第一位数为设置的小数点位数,第二位是四舍五入的界值,你可以随意修改,如6,就是大于等于6是就进位。还有testA = testA.setScale(2,5)这种写法在用BigDecimal时将会一直出现,因为它必须要通过给自身返回值来替代已经存在的值,如果你这样写testA.add(new BigDecimal(0)),那你会发现你的结果并不是想象中的200,而是0。当然加减乘除都是一样的。至于刚才的比较为何不用testA.floatValue(),当然还是因为会造成精度丢失的缘故了,当然如果你的小数位数不超过5位的话,也是可以的,如果是超过5位,那就和第五位的值有关了(因为它仅保留五位小数),显示如果第五位大于等于五,即使第六位为零,也会在第五位上加一,否则后面的只会被截掉!
  说到这里,忽然想起javascript中的尾数和精度问题,javascript中有一个方法“toFixed(),这个方法就是用来截取小数点后尾数的长度的。例:var a = 343.12345465;var b = b.toFixed(4);这样b小数点后的尾数就是4位了,注意,它是按照四舍五入进行截取的。

posted on 2005-12-17 15:30 TrampEagle 阅读(10496) 评论(9)  编辑  收藏 所属分类: 学习体会

Feedback

# re: java中数值计算的精度问题 2005-12-21 15:58 not_sub
用 double 类型,一般就够用了。 float 精度只有 6-7 位有效数字,当然不够。  回复  更多评论
  

# re: java中数值计算的精度问题 2006-04-25 09:51 不同意楼上的
double用来做计算非常的不准确,加减之后都是接近值,但都不是精确值  回复  更多评论
  

# re: java中数值计算的精度问题 2007-07-15 16:30 fon123
在从数值上比较两个 BigDecimal 值时,应该使用 compareTo() 而不是 equals()   回复  更多评论
  

# re: java中数值计算的精度问题 2007-08-23 15:07 不知道真的假的
BigDecimal testAdd = new BigDecimal( 200 );
testAdd.add( new BigDecimal( 0 ) );
System.out.println( testAdd );

这是照LZ的说法写
不幸的是,输出是200
是不是代码写错?  回复  更多评论
  

# re: java中数值计算的精度问题 2007-09-18 11:01 zhw
可以用BigDecimal.valueOf()
这样不用new新对象的。  回复  更多评论
  

# re: java中数值计算的精度问题 2007-10-17 20:17 T.WOLF
@不知道真的假的
200才是正确答案,我一直就是用add来完成加法操作的  回复  更多评论
  

# re: java中数值计算的精度问题[未登录] 2008-10-10 18:48 java菜鸟
这个帖子的内容不知道什么时候测试的,我用1.5测试和楼主所说有点不一致  回复  更多评论
  

# re: java中数值计算的精度问题 2008-12-24 10:59 Meison
BigDecimal.stripTrailingZeros().....  回复  更多评论
  

# re: java中数值计算的精度问题 2011-09-05 21:05 sanga
BigDecimal testAdd = new BigDecimal( 200 );
testAdd.add( new BigDecimal( 1 ) );
System.out.println( testAdd );
我想LZ的意思是指輸出的結果依然為200吧
值必須被指定到另一個變數才能保存結果  回复  更多评论
  


只有注册用户登录后才能发表评论。


网站导航: