golang浮点型精度丢失问题
文章目录
最近写代码的时候发现了一个问题,直接上代码:
var f1 float64
var f2 float64
if f1 - f2 < 0.1{
...
}可以看到,我是直接拿两个float型进行了加减运算,当我第一个参数传 0.30,第二个参数传 0.20,返回的结果是true,输出一下运算结果:0.09999999999999998
解决方案:
转换为decimal格式再进行运算,
d1 := decimal.NewFromFloat(f1)
d2 := decimal.NewFromFloat(f2)
if d1.Sub(d2).LessThan(decimal.NewFromFloat(0.1)) {
...
}或者
// -2 小数位数
d1 := decimal.NewFromFloatWithExponent(f1,-2)
评论
登录后参与技术讨论,分享你的经验与见解。
登录 / 注册暂无评论