Android(Java)計算精度校正


現(xiàn)象

float total = 1.0f;
float f1 = .1f;
float f2 = .2f;
float f3 = .3f;
float f4 = total - f1 - f2 - f3;

得到的f4值是多少?
稍有經(jīng)驗(yàn)的程序員估計都會想「肯定不是0.4」
Bingo!答案是0.39999998


原理

Java在存儲float和double數(shù)據(jù)時叮称,整數(shù)和小數(shù)部分分別轉(zhuǎn)為二進(jìn)制表示
例如2.5,在內(nèi)存中32位的存儲結(jié)果為

1100 0000 0010 0000 0000 0000 0000 0000

沒有精度丟失,因?yàn)?.5剛好可以轉(zhuǎn)為二級制小數(shù)的1
但如果是2.6呢笼痹?小數(shù)部分會表示為

1001 1001 1001 1001 1001 1001 1001 1001

1001的無限循環(huán),但存儲位數(shù)是有限的酪穿,超出部分不得不被舍棄掉凳干,就造成了精度丟失


跳坑

Java提供了BigDecimal類處理類似問題,這也是很多博客推薦的解法
話不多說被济,直接上代碼

float total = 1.0f;
float f1 = .1f;
float f2 = .2f;
float f3 = .3f;
BigDecimal totalB = new BigDecimal(total);
BigDecimal f1B = new BigDecimal(f1);
BigDecimal f2B = new BigDecimal(f2);
BigDecimal f3B = new BigDecimal(f3);
float f4B = totalB.subtract(f1B).subtract(f2B).subtract(f3B).floatValue();

得到的f4B值是多少救赐?
多數(shù)人會想「肯定0.4了」
答案還是0.39999998


分析

BigDecimal只有傳參為double類型的構(gòu)造方法,所以這里雖然傳入的是float只磷,但調(diào)用的是:

public BigDecimal(double val) {
    this(val,MathContext.UNLIMITED);
}

跟進(jìn)去看看是怎么處理傳參的:

public BigDecimal(double val, MathContext mc) {
  if (Double.isInfinite(val) || Double.isNaN(val))
    throw new NumberFormatException("Infinite or NaN");
  // Translate the double into sign, exponent and significand, according
  // to the formulae in JLS, Section 20.10.22.
  long valBits = Double.doubleToLongBits(val);
  int sign = ((valBits >> 63) == 0 ? 1 : -1);
  int exponent = (int) ((valBits >> 52) & 0x7ffL);
  long significand = (exponent == 0
    ? (valBits & ((1L << 52) - 1)) << 1
    : (valBits & ((1L << 52) - 1)) | (1L << 52));
  exponent -= 1075;
  ...
}

double本身就無法無損表示


解決

一個小改動经磅,就可以解決問題:

float total = 1.0f;
float f1 = .1f;
float f2 = .2f;
float f3 = .3f;
BigDecimal totalB = new BigDecimal(String.valueOf(total));
BigDecimal f1B = new BigDecimal(String.valueOf(f1));
BigDecimal f2B = new BigDecimal(String.valueOf(f2));
BigDecimal f3B = new BigDecimal(String.valueOf(f3));
float f4B = totalB.subtract(f1B).subtract(f2B).subtract(f3B).floatValue();

為什么傳參為String類型的構(gòu)造方法可以保留精度?
答案都在源碼里

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末钮追,一起剝皮案震驚了整個濱河市预厌,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌元媚,老刑警劉巖轧叽,帶你破解...
    沈念sama閱讀 206,126評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異刊棕,居然都是意外死亡炭晒,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,254評論 2 382
  • 文/潘曉璐 我一進(jìn)店門甥角,熙熙樓的掌柜王于貴愁眉苦臉地迎上來腰埂,“玉大人,你說我怎么就攤上這事蜈膨∮炝” “怎么了牺荠?”我有些...
    開封第一講書人閱讀 152,445評論 0 341
  • 文/不壞的土叔 我叫張陵,是天一觀的道長驴一。 經(jīng)常有香客問我休雌,道長,這世上最難降的妖魔是什么肝断? 我笑而不...
    開封第一講書人閱讀 55,185評論 1 278
  • 正文 為了忘掉前任杈曲,我火速辦了婚禮,結(jié)果婚禮上胸懈,老公的妹妹穿的比我還像新娘担扑。我一直安慰自己,他們只是感情好趣钱,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,178評論 5 371
  • 文/花漫 我一把揭開白布涌献。 她就那樣靜靜地躺著,像睡著了一般首有。 火紅的嫁衣襯著肌膚如雪燕垃。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 48,970評論 1 284
  • 那天井联,我揣著相機(jī)與錄音卜壕,去河邊找鬼。 笑死烙常,一個胖子當(dāng)著我的面吹牛轴捎,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播蚕脏,決...
    沈念sama閱讀 38,276評論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼侦副,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了蝗锥?” 一聲冷哼從身側(cè)響起跃洛,我...
    開封第一講書人閱讀 36,927評論 0 259
  • 序言:老撾萬榮一對情侶失蹤率触,失蹤者是張志新(化名)和其女友劉穎终议,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體葱蝗,經(jīng)...
    沈念sama閱讀 43,400評論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡穴张,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,883評論 2 323
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了两曼。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片皂甘。...
    茶點(diǎn)故事閱讀 37,997評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖悼凑,靈堂內(nèi)的尸體忽然破棺而出偿枕,到底是詐尸還是另有隱情璧瞬,我是刑警寧澤,帶...
    沈念sama閱讀 33,646評論 4 322
  • 正文 年R本政府宣布渐夸,位于F島的核電站嗤锉,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏墓塌。R本人自食惡果不足惜瘟忱,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,213評論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望苫幢。 院中可真熱鬧访诱,春花似錦、人聲如沸韩肝。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,204評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽伞梯。三九已至玫氢,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間谜诫,已是汗流浹背漾峡。 一陣腳步聲響...
    開封第一講書人閱讀 31,423評論 1 260
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留喻旷,地道東北人生逸。 一個月前我還...
    沈念sama閱讀 45,423評論 2 352
  • 正文 我出身青樓,卻偏偏與公主長得像且预,于是被迫代替她去往敵國和親槽袄。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,722評論 2 345

推薦閱讀更多精彩內(nèi)容