golang 浮点数精度问题

<h3>一：先放解决的方法</h3>

把所有需要精确计算的数据先转成decimal,用decimal进行精确计算

更详情的用法参考包：github.com/shopspring/decimal

<pre class="has"><code class="language-Go">package main import ( "log" "github.com/shopspring/decimal" ) func main() { xdecimal, err := decimal.NewFromString("1129.6") if err != nil { log.Println("转化decimal失败", err) } ydecimal := decimal.NewFromFloat(3) resultdecimal := xdecimal.Mul(ydecimal) log.Println(resultdecimal) //112960 }</code></pre> <h3>二，Golang浮点数存在一些问题</h3>

1，两个浮点数相加减，可能不准确
(1)相减
x := 74.96
y := 20.48
b := x - y
fmt.Println(b) //output: 54.47999999999999
(2)相加
var a = 0.6
fmt.Println(a 0.7) //output: 1.2999999999999998
· 出现浮点数不精确的原因是，浮点数储存至内存中时，2的-1、-2……-n次方不能精确的表示小数部分，所以再把这个数从地址中取出来进行计算就出现了偏差。

· 不是所有的float相加减乘除都一定出现偏差，具体要根据golang实现IEEE 754的情况定。
2，float32和float64直接互转会精度丢失, 四舍五入后错误
3，int64转float64在数值很大的时候出现偏差
4，两位小数乘100强转int, 比期望值少了1
    // case: float32==>float64
    // 从数据库中取出80.45, 历史代码用float32接收
    var a float32 = 80.45
    var b float64
    // 有些函数只能接收float64, 只能强转
    b = float64(a)
    // 打印出值, 强转后出现偏差
    fmt.Println(a) //output:80.45
    fmt.Println(b) //output:80.44999694824219
    // ... 四舍五入保留小数点后1位, 期望80.5, 结果是80.4
 
    // case: int64==>float64
    var c int64 = 987654321098765432
    fmt.Printf("%.f\n", float64(c)) //output:987654321098765440
 
    // case: int(float64(xx.xx*100))
    var d float64 = 1129.6
    var e int64 = int64(d * 100)
    fmt.Println(e) //output:112959

<h3> </h3> 到此这篇关于“golang 浮点数精度问题”的文章就介绍到这了,更多文章或继续浏览下面的相关文章，希望大家以后多多支持JQ教程网！

您可能感兴趣的文章：
php浮点相减不等于0
PHP浮点精度问题
mysql float精度与范围总结
golang 浮点数精度问题
PHP浮点数比较方法
mysql下float类型一些误差详解
PHP浮点数比较不准确的解决方法
PHP浮点数运算精度的问题
Golang小数精度问题
PHP浮点数转换整型注意事项