浮點數(shù)定點數(shù)

基礎知識

浮點數(shù)和定點數(shù)都是對于存在小數(shù)部分的數(shù)字一種表示方法

浮點數(shù)和定點數(shù)表示法的區(qū)別鹃栽?
根據(jù)國際標準IEEE 754,任意一個二進制浮點數(shù)V可以表示成下面的形式:

浮點數(shù)表示法

 ∏搿(1)(-1)^s表示符號位民鼓,當s=0,V為正數(shù)蓬抄;當s=1丰嘉,V為負數(shù)。
 ∪络浴(2)M表示有效數(shù)字饮亏,大于等于1,小于2阅爽。
 ÷沸摇(3)2^E表示指數(shù)位。

定點數(shù)需要事先定下小數(shù)點的位置付翁,固定的小數(shù)點位置決定了固定位數(shù)的整數(shù)部分和小數(shù)部分简肴。定點數(shù)表示法的缺點就來自于固定的小數(shù)點位置決定了固定位數(shù)的整數(shù)部分和小數(shù)部分這個特點,因為不利于同時表達特別大的數(shù)或者特別小的數(shù)百侧,只能在某個對稱的范圍里的一部分數(shù)字砰识。比如一個8位定點數(shù),頂多能表示 -28 至 28范圍內的數(shù)字佣渴,如果用這個體系就不能表示29這個數(shù)字了辫狼。

fixed point arithmetic is much faster than floating point arithmetic

雙精度浮點數(shù)和單精度浮點數(shù)的區(qū)別?
表示范圍不一樣观话,一個是32位予借,一個是64位,尾數(shù)频蛔,有效數(shù)字的規(guī)定都不一樣灵迫。

計算機中的計算為什么會存在誤差

http://floating-point-gui.de/basic/

參考文獻

fixed point notation
What Every Computer Scientist Should Know About Floating-Point Arithmetic
Introduction to Fixed Point Number Representation
https://stackoverflow.com/questions/45829846/lack-of-precision-of-the-tofixed-method-in-javascript

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市晦溪,隨后出現(xiàn)的幾起案子瀑粥,更是在濱河造成了極大的恐慌,老刑警劉巖三圆,帶你破解...
    沈念sama閱讀 221,820評論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件狞换,死亡現(xiàn)場離奇詭異避咆,居然都是意外死亡,警方通過查閱死者的電腦和手機修噪,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,648評論 3 399
  • 文/潘曉璐 我一進店門查库,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人黄琼,你說我怎么就攤上這事樊销。” “怎么了脏款?”我有些...
    開封第一講書人閱讀 168,324評論 0 360
  • 文/不壞的土叔 我叫張陵围苫,是天一觀的道長。 經常有香客問我撤师,道長剂府,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 59,714評論 1 297
  • 正文 為了忘掉前任剃盾,我火速辦了婚禮腺占,結果婚禮上,老公的妹妹穿的比我還像新娘万俗。我一直安慰自己湾笛,他們只是感情好饮怯,可當我...
    茶點故事閱讀 68,724評論 6 397
  • 文/花漫 我一把揭開白布闰歪。 她就那樣靜靜地躺著,像睡著了一般蓖墅。 火紅的嫁衣襯著肌膚如雪库倘。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 52,328評論 1 310
  • 那天论矾,我揣著相機與錄音教翩,去河邊找鬼。 笑死贪壳,一個胖子當著我的面吹牛饱亿,可吹牛的內容都是我干的。 我是一名探鬼主播闰靴,決...
    沈念sama閱讀 40,897評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼彪笼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了蚂且?” 一聲冷哼從身側響起配猫,我...
    開封第一講書人閱讀 39,804評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎杏死,沒想到半個月后泵肄,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體捆交,經...
    沈念sama閱讀 46,345評論 1 318
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 38,431評論 3 340
  • 正文 我和宋清朗相戀三年腐巢,在試婚紗的時候發(fā)現(xiàn)自己被綠了品追。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 40,561評論 1 352
  • 序言:一個原本活蹦亂跳的男人離奇死亡冯丙,死狀恐怖诵盼,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情银还,我是刑警寧澤风宁,帶...
    沈念sama閱讀 36,238評論 5 350
  • 正文 年R本政府宣布,位于F島的核電站蛹疯,受9級特大地震影響戒财,放射性物質發(fā)生泄漏。R本人自食惡果不足惜捺弦,卻給世界環(huán)境...
    茶點故事閱讀 41,928評論 3 334
  • 文/蒙蒙 一饮寞、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧列吼,春花似錦幽崩、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,417評論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間胡桨,已是汗流浹背廉油。 一陣腳步聲響...
    開封第一講書人閱讀 33,528評論 1 272
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 48,983評論 3 376
  • 正文 我出身青樓,卻偏偏與公主長得像棉胀,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子冀膝,可洞房花燭夜當晚...
    茶點故事閱讀 45,573評論 2 359

推薦閱讀更多精彩內容