浮点运算是步精确的,有两种解决办法:
1、使用整数类型进行运算,单位一律使用最小的,比如分2、使用可以精确计算小数的数据类型,比如Java中的BigDecimal
多币种换算时的误差如何解决,这个怎么解决啊?快急疯了?
浮点运算是步精确的,有两种解决办法:
1、使用整数类型进行运算,单位一律使用最小的,比如分2、使用可以精确计算小数的数据类型,比如Java中的BigDecimal
浮点运算是步精确的,有两种解决办法:
1、使用整数类型进行运算,单位一律使用最小的,比如分
2、使用可以精确计算小数的数据类型,比如Java中的BigDecimal
在系统中定义一个常量,该常量是你系统货币精确值得二分之一,如果计算出来的数小于这个常量则,取逼近该值的数,如:$12.7877精确到$0.0001,则$常量取$0.00005,¥99.999814,精确到$0.0001/7.82,则$常量取$0.00005/7.82;
当你计算出的值和你想要的值有微小误差时用这个常量作标准进行比较就行了