基礎知識
浮點數(shù)和定點數(shù)都是對于存在小數(shù)部分的數(shù)字一種表示方法
浮點數(shù)和定點數(shù)表示法的區(qū)別鹃栽?
根據(jù)國際標準IEEE 754,任意一個二進制浮點數(shù)V可以表示成下面的形式:
∏搿(1)(-1)^s表示符號位民鼓,當s=0,V為正數(shù)蓬抄;當s=1丰嘉,V為負數(shù)。
∪络浴(2)M表示有效數(shù)字饮亏,大于等于1,小于2阅爽。
÷沸摇(3)2^E表示指數(shù)位。
定點數(shù)需要事先定下小數(shù)點的位置付翁,固定的小數(shù)點位置決定了固定位數(shù)的整數(shù)部分和小數(shù)部分简肴。定點數(shù)表示法的缺點就來自于固定的小數(shù)點位置決定了固定位數(shù)的整數(shù)部分和小數(shù)部分
這個特點,因為不利于同時表達特別大的數(shù)或者特別小的數(shù)百侧,只能在某個對稱的范圍里的一部分數(shù)字砰识。比如一個8位定點數(shù),頂多能表示 -28 至 28范圍內的數(shù)字佣渴,如果用這個體系就不能表示29這個數(shù)字了辫狼。
fixed point arithmetic is much faster than floating point arithmetic
雙精度浮點數(shù)和單精度浮點數(shù)的區(qū)別?
表示范圍不一樣观话,一個是32位予借,一個是64位,尾數(shù)频蛔,有效數(shù)字的規(guī)定都不一樣灵迫。
計算機中的計算為什么會存在誤差
http://floating-point-gui.de/basic/
參考文獻
fixed point notation
What Every Computer Scientist Should Know About Floating-Point Arithmetic
Introduction to Fixed Point Number Representation
https://stackoverflow.com/questions/45829846/lack-of-precision-of-the-tofixed-method-in-javascript