NSNumber 轉(zhuǎn)NSString精度丟失的問題

問題描述:

在iOS開發(fā)中:涉及價(jià)格金額處理,后臺(tái)有時(shí)會(huì)返回Number類型的數(shù)據(jù)状知,打印或者經(jīng)過Json轉(zhuǎn)Model后的NSString有時(shí)會(huì)出現(xiàn)精度丟失的問題,如果涉及到金額的加減乘除運(yùn)算問題將暴露得更為明顯有咨。

代碼示例:

NSArray *numbers = @[
                         @9,
                         @9.00,
                         @9.09,
                         @9.19,
                         @9.29,
                         @9.39,
                         @9.49,
                         @9.59,
                         @9.69,
                         @9.79,
                         @9.89,
                         @9.99,
                         @10.00,
                         @10,
                         ];

    for (int i = 0; i < numbers.count; i++) {
        NSNumber *number = numbers[I];
        NSString *newValue = [number stringValue];
        NSLog(@"newValue:%@,number:%@",newValue,number);
    }
輸出.jpg

我們看輸出的結(jié)果可以看出來將NSNumber轉(zhuǎn)換成NSSting的過程中和存儲(chǔ)的時(shí)間可能都會(huì)出現(xiàn)精度丟失携龟。

問題分析

因?yàn)楦↑c(diǎn)數(shù)在計(jì)算機(jī)中是采用IEEE規(guī)定的標(biāo)準(zhǔn)浮點(diǎn)格式,即二進(jìn)制科學(xué)表示法衡创。 在這種表示法中帝嗡,一個(gè)數(shù) S = M * 2 ^ N。

其中N表示階碼璃氢,M表示位數(shù)(有效數(shù)字位)哟玷。 例如一個(gè)float類型的浮點(diǎn),在32bit位上一也,占4個(gè)字節(jié)巢寡,字節(jié)表示為
【31】N:【30 ~ 23】 M:【22~0】
a)31位表示符號(hào)位: 0正,1負(fù)
b)中間8位是階碼位: 表示范圍【-128 ~ 127】,對(duì)于float類型數(shù)據(jù)規(guī)定其偏移量為127
c)后面23位是有效數(shù)字位: 因?yàn)榭茖W(xué)計(jì)數(shù)法椰苟,整數(shù)位定死了是1抑月,所以這里記錄的是小數(shù)點(diǎn)后面的二進(jìn)制為

指數(shù)N決定它的范圍,因?yàn)镸總是一個(gè)以1開頭的小數(shù)舆蝴,以float來說即是:-2 ^ 128 ~ 2 ^ 128,即float能表示的數(shù)的大小的范圍谦絮。
而它的精度是由位數(shù)(也就是有效的數(shù)據(jù)位)來決定的, 2 ^ 23 = 8388608洁仗,總共7位挨稿,表示最多能用7位有效數(shù)字,最多能表示到.8388708即小數(shù)點(diǎn)后7位京痢,由于不能完全表示全部的7位數(shù),所以它的精度范圍是6位~7位篷店。
同理可得double的精度是2 ^ 52 = 4503599627370496祭椰, 共16位,所以精度為15 ~ 16位疲陕。

總結(jié):

float/double類型的范圍和精度的計(jì)算方式方淤,對(duì)于高精度的計(jì)算是不合適的,存在著精度的丟失蹄殃。相對(duì)于float 携茂;double的精度更高一些在用的時(shí)間要做好取舍

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市诅岩,隨后出現(xiàn)的幾起案子讳苦,更是在濱河造成了極大的恐慌带膜,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,482評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件鸳谜,死亡現(xiàn)場(chǎng)離奇詭異膝藕,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)咐扭,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,377評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門芭挽,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人蝗肪,你說我怎么就攤上這事袜爪。” “怎么了薛闪?”我有些...
    開封第一講書人閱讀 152,762評(píng)論 0 342
  • 文/不壞的土叔 我叫張陵辛馆,是天一觀的道長(zhǎng)。 經(jīng)常有香客問我逛绵,道長(zhǎng)怀各,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 55,273評(píng)論 1 279
  • 正文 為了忘掉前任术浪,我火速辦了婚禮瓢对,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘胰苏。我一直安慰自己硕蛹,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,289評(píng)論 5 373
  • 文/花漫 我一把揭開白布硕并。 她就那樣靜靜地躺著法焰,像睡著了一般。 火紅的嫁衣襯著肌膚如雪倔毙。 梳的紋絲不亂的頭發(fā)上埃仪,一...
    開封第一講書人閱讀 49,046評(píng)論 1 285
  • 那天,我揣著相機(jī)與錄音陕赃,去河邊找鬼卵蛉。 笑死,一個(gè)胖子當(dāng)著我的面吹牛么库,可吹牛的內(nèi)容都是我干的傻丝。 我是一名探鬼主播,決...
    沈念sama閱讀 38,351評(píng)論 3 400
  • 文/蒼蘭香墨 我猛地睜開眼诉儒,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼葡缰!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 36,988評(píng)論 0 259
  • 序言:老撾萬榮一對(duì)情侶失蹤泛释,失蹤者是張志新(化名)和其女友劉穎滤愕,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體胁澳,經(jīng)...
    沈念sama閱讀 43,476評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡该互,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,948評(píng)論 2 324
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了韭畸。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片宇智。...
    茶點(diǎn)故事閱讀 38,064評(píng)論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖胰丁,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情锦庸,我是刑警寧澤机蔗,帶...
    沈念sama閱讀 33,712評(píng)論 4 323
  • 正文 年R本政府宣布,位于F島的核電站甘萧,受9級(jí)特大地震影響萝嘁,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜扬卷,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,261評(píng)論 3 307
  • 文/蒙蒙 一牙言、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧怪得,春花似錦咱枉、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,264評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至入挣,卻和暖如春亿乳,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背径筏。 一陣腳步聲響...
    開封第一講書人閱讀 31,486評(píng)論 1 262
  • 我被黑心中介騙來泰國(guó)打工风皿, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人匠璧。 一個(gè)月前我還...
    沈念sama閱讀 45,511評(píng)論 2 354
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像咸这,于是被迫代替她去往敵國(guó)和親夷恍。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,802評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容