awk在處理浮點(diǎn)數(shù)加減時(shí)默認(rèn)是按double-float來處理沸呐,一般的處理對(duì)精度要求沒有那么高,因此通常用awk不會(huì)踩到精度的坑为严,當(dāng)你對(duì)精度的要求要達(dá)到小數(shù)點(diǎn)后面6位以上時(shí)逛漫,就要注意精度的問題了。
1锤灿、精度問題舉例
小數(shù)點(diǎn)后面6位小數(shù)挽拔,輸出6位正常
$ echo 57760731.179959 | awk '{sum+=$1}END{printf("%.6f\n",sum)}'
57760731.179959
輸出8位也正常
$ echo 57760731.179959 | awk '{sum+=$1}END{printf("%.8f\n",sum)}'
57760731.17995900
注意,輸出9位就有誤差了
$ echo 57760731.179959 | awk '{sum+=$1}END{printf("%.9f\n",sum)}'
57760731.179958999
輸出10位的誤差更大
$ echo 57760731.179959 | awk '{sum+=$1}END{printf("%.10f\n",sum)}'
57760731.1799589992
2但校、精度誤差的原因和解決方案
awk的默認(rèn)精度范圍是53bit篱昔,也就是雙精度的范圍內(nèi),因此在做高精度數(shù)值計(jì)算時(shí),一定要注意浮點(diǎn)數(shù)的精度要求州刽。
要提高精度空执,可以通過修改PREC內(nèi)置變量來解決,參考文檔:15.4.4 Setting the Precision
$ echo 57760731.179959 | awk -M -v PREC=100 -v CONVFMT=%.30g '{sum+=$1}END{printf("%.10f\n",sum)}'
57760731.1799590000