golang浮点型精度丢失问题

最近写代码的时候发现了一个问题,直接上代码:

var f1 float64
var f2 float64
if f1 - f2 < 0.1{
   ...
}

可以看到,我是直接拿两个float型进行了加减运算,当我第一个参数传 0.30,第二个参数传 0.20,返回的结果是true,输出一下运算结果:0.09999999999999998

解决方案:
转换为decimal格式再进行运算,

d1 := decimal.NewFromFloat(f1)
d2 := decimal.NewFromFloat(f2)
if d1.Sub(d2).LessThan(decimal.NewFromFloat(0.1)) {
   ...
}

或者

// -2 小数位数
d1 := decimal.NewFromFloatWithExponent(f1,-2)

评论

暂无评论