目录一、浮点数1.无限循环小数导致的精度丢失问题2.尾数位有限导致的精度丢失问题二、BigDecimal1.实例化BigDecimal对象3.常用方法一、浮点数对于float、double类型浮点数在计算机中采用尾数阶码表示方式1.M×2^E类似于科学计数法不过底数是2不是10。浮点类型的范围由指数决定位数由尾数决定有整数和小数。1.无限循环小数导致的精度丢失问题由于浮点数的宽度是有限的所以对于一些无法使用二进制精确表示的小数就会存在精度丢失问题。浮点数转换成二进制的规则对于整数部分采用除2取余法将十进制转为二进制。对于小数部分采用的是乘2取整法小数部分不断乘以2每次取整数位直到不存在小数位当小数位无法通过乘2消除时就会丢失精度floata2.0f-1.9f;floatb1.8f-1.7f;System.out.println(a);// 0.100000024System.out.println(b);// 0.099999905System.out.println(ab);// false// 0.2 转换为二进制数的过程为不断乘以 2直到不存在小数为止// 在这个计算过程中得到的整数部分从上到下排列就是二进制的结果。0.2*20.4-00.4*20.8-00.8*21.6-10.6*21.2-10.2*20.4-0发生循环...2.尾数位有限导致的精度丢失问题对于float型尾数部分23位换算成十进制就是2^238388608所以只能保存6~7位十进制小数对于double型尾数部分52位换算成十进制就是2^52 4503599627370496所以只能保存15~16位十进制小数。如果要保存17位的10进制小数那么即使这个小数能够被2乘为1那也会因为尾数位有限导致精度丢失。二、BigDecimal对于高精度要求的业务防止精度丢失会使用BigDecimal类使用int[] 数组实现整数和小数部分都采用除二取余法转为二进制每32位一组存到数组中。1.实例化BigDecimal对象new BigDecimal(String val)构造方法注意是String类型底层是整形数组记录String的每一位计算时模拟加法运算实现。BigDecimal.valueOf(double val)静态方法底层还是调用了Double.toString()new BigDecimal(String)方法Double.toString()方法会从误差区间[原值-最小精度, 原值最小精度]中找到有效位数最少的数直观理解就是根据数据类型位数对十进制树截断可能会解决部分Double的精度丢失问题但不保证完全恢复原始数据所以建议使用String。// 实际值为0.1doublex0.1;// double会精度丢失0.10000000000000000555...System.out.println(x);// double为64位能表示数据范围2^52≈10^15toString()方法会截取前15位0.100000000000000System.out.println(x.toString());不能使用new BigDecimal(double)如果double这个数据本身就存在精度丢失问题那么实例化后的BigDecimal对象还是会保留错误的精度位。3.常用方法a.add(b)加a.subtract(b)减a.multiply(b)乘a.divide(b, 5, RoundingMode.HALF_UP)除给定除不尽时保留几位小数。a.compareTo(b)比较大小 -1大于0等于1小于。equals()方法会比较值和精度所以1.0 not equals 1.00而compareTo()方法会忽略精度。a.setScale(3,RoundingMode.HALF_DOWN)保留几位小数。
目录一、浮点数1.无限循环小数导致的精度丢失问题2.尾数位有限导致的精度丢失问题二、BigDecimal1.实例化BigDecimal对象3.常用方法一、浮点数对于float、double类型浮点数在计算机中采用尾数阶码表示方式1.M×2^E类似于科学计数法不过底数是2不是10。浮点类型的范围由指数决定位数由尾数决定有整数和小数。1.无限循环小数导致的精度丢失问题由于浮点数的宽度是有限的所以对于一些无法使用二进制精确表示的小数就会存在精度丢失问题。浮点数转换成二进制的规则对于整数部分采用除2取余法将十进制转为二进制。对于小数部分采用的是乘2取整法小数部分不断乘以2每次取整数位直到不存在小数位当小数位无法通过乘2消除时就会丢失精度floata2.0f-1.9f;floatb1.8f-1.7f;System.out.println(a);// 0.100000024System.out.println(b);// 0.099999905System.out.println(ab);// false// 0.2 转换为二进制数的过程为不断乘以 2直到不存在小数为止// 在这个计算过程中得到的整数部分从上到下排列就是二进制的结果。0.2*20.4-00.4*20.8-00.8*21.6-10.6*21.2-10.2*20.4-0发生循环...2.尾数位有限导致的精度丢失问题对于float型尾数部分23位换算成十进制就是2^238388608所以只能保存6~7位十进制小数对于double型尾数部分52位换算成十进制就是2^52 4503599627370496所以只能保存15~16位十进制小数。如果要保存17位的10进制小数那么即使这个小数能够被2乘为1那也会因为尾数位有限导致精度丢失。二、BigDecimal对于高精度要求的业务防止精度丢失会使用BigDecimal类使用int[] 数组实现整数和小数部分都采用除二取余法转为二进制每32位一组存到数组中。1.实例化BigDecimal对象new BigDecimal(String val)构造方法注意是String类型底层是整形数组记录String的每一位计算时模拟加法运算实现。BigDecimal.valueOf(double val)静态方法底层还是调用了Double.toString()new BigDecimal(String)方法Double.toString()方法会从误差区间[原值-最小精度, 原值最小精度]中找到有效位数最少的数直观理解就是根据数据类型位数对十进制树截断可能会解决部分Double的精度丢失问题但不保证完全恢复原始数据所以建议使用String。// 实际值为0.1doublex0.1;// double会精度丢失0.10000000000000000555...System.out.println(x);// double为64位能表示数据范围2^52≈10^15toString()方法会截取前15位0.100000000000000System.out.println(x.toString());不能使用new BigDecimal(double)如果double这个数据本身就存在精度丢失问题那么实例化后的BigDecimal对象还是会保留错误的精度位。3.常用方法a.add(b)加a.subtract(b)减a.multiply(b)乘a.divide(b, 5, RoundingMode.HALF_UP)除给定除不尽时保留几位小数。a.compareTo(b)比较大小 -1大于0等于1小于。equals()方法会比较值和精度所以1.0 not equals 1.00而compareTo()方法会忽略精度。a.setScale(3,RoundingMode.HALF_DOWN)保留几位小数。
