go: 小数（浮点数）运算的常用做法 浮点数一直以来存在舍入和精度损失两个问题。例如： ``` m1 := 8.3 m2 := 3.0 c := m1 - m2 // 浮点数精度损失 print("%v", c) // 5.300000000000001 ``` 在go中，有两条经验。 ## 大部分场景下float64足够 在大部分计算场景下，精度损失微乎其微。不影响最终的结果。 只需要在最终结果取值时，对结果进行舍入即可。舍入的方式有两种。 ### 使用math.Floor直接对浮点结果进行舍入 方法来源https://blog.thinkeridea.com/202101/go/round.html ``` // Round 四舍五入，ROUND_HALF_UP 模式实现 // 返回将 val 根据指定精度 precision（十进制小数点后数字的数目）进行四舍五入的结果。precision 也可以是负数或零。 func Round(val float64, precision int) float64 { p := math.Pow10(precision) return math.Floor(val*p+0.5) / p } ``` 使用方法： ``` Round(1555.15807659924030304, 0) = 1555，Round(1555.15807659924030304, 2) = 1555.16 ``` ### 使用decimal进行取整 decimal库可以进行精确的小数运算，一般也支持小数的舍入。遗憾的是go本身未实现Decimal类型。 最常用的decimal库是： "github.com/shopspring/decimal" ``` "github.com/shopspring/decimal" print("%v", c) // 5.300000000000001 // 将精度损失的数进行取整，获得一个合理的定点小数 d := decimal.NewFromFloat(c).Round(2) print("%v", d) // 5.3 // 也能再次转换为一个float64的数 fd, ok := d.Float64() print("%v %v", fd, ok) // 5.3, false ``` ## 抛弃浮点数，需要精确计算时，直接使用decimal库 ``` // 可将浮点数初始化成decimal类型再进行运算 d1 := decimal.NewFromFloat(8.3) d2 := decimal.NewFromFloat(3.0) d3 := d1.Sub(d2) print("%v", d3) // 5.3 ``` 此时，因为抛弃了浮点类型，所有的结果运算都是精确的。但需要使用decimal的方法，而不能再使用 +/-等操作符了。便利性差一点。 来自 大脸猪 写于 2023-01-31 13:45 -- 更新于2023-01-31 14:32 -- 1 条评论