摘要:標(biāo)準(zhǔn)二進制浮點數(shù)算法就是一個對實數(shù)進行計算機編碼的標(biāo)準(zhǔn)。然后把取出的整數(shù)部分按順序排列起來,先取的整數(shù)作為二進制小數(shù)的高位有效位,后取的整數(shù)作為低位有效位。
浮點運算JavaScript
本文主要討論JavaScript的浮點運算,主要包括
JavaScript number基本類型
二進制表示十進制
浮點數(shù)的精度
number 數(shù)字類型在JavaScript中,數(shù)字只有number這一種類型;
var intS = 2, floatA = 0.1; typeof intS; // number typeof floatA; //number
那么這個情況下應(yīng)該很容易理解一件事情:number應(yīng)該是實現(xiàn)的浮點型數(shù)來標(biāo)識所有的數(shù);
而實際上也是這樣;JavaScript的number類型按照ECMA的JavaScript標(biāo)準(zhǔn),它的Number類型就是IEEE 754的雙精度數(shù)值,相當(dāng)于java的double類型。IEEE 754標(biāo)準(zhǔn)《二進制浮點數(shù)算法》(www.ieee.org)就是一個對實數(shù)進行計算機編碼的標(biāo)準(zhǔn)。
同樣,在計算機的世界里,應(yīng)該是只有二進制數(shù)據(jù)的,不是0就是1,那么為了表達生活中最為常見的十進制數(shù)據(jù),就會有個轉(zhuǎn)換過程;這個就是十進制轉(zhuǎn)換為二進制的方法;
參考:http://www.cnblogs.com/xkfz00...
這個情況比較常見:3 =》 01;5 =》101;十進制整數(shù)轉(zhuǎn)換為二進制整數(shù)采用"除2取余,逆序排列"法。具體做法是:用2去除十進制整數(shù),可以得到一個商和余數(shù);再用2去除商,又會得到一個商和余數(shù),如此進行,直到商為零時為止,然后把先得到的余數(shù)作為二進制數(shù)的低位有效位,后得到的余數(shù)作為二進制數(shù)的高位有效位,依次排列起來
換算的法則是,使用一個十進制數(shù)字來示例: 173 =》 10101101:
十進制的小數(shù)轉(zhuǎn)換為二進制,0.5 =》 0.1 ;十進制小數(shù)轉(zhuǎn)換成二進制小數(shù)采用"乘2取整,順序排列"法。具體做法是:用2乘十進制小數(shù),可以得到積,將積的整數(shù)部分取出,再用2乘余下的小數(shù) 部分,又得到一個積,再將積的整數(shù)部分取出,如此進行,直到積中的小數(shù)部分為零,或者達到所要求的精度為止。然后把取出的整數(shù)部分按順序排列起來,先取的整數(shù)作為二進制小數(shù)的高位有效位,后取的整數(shù)作為低位有效位。
示例 0.8125 =》 0.1101
從上面的講述中可以知道,一個十進制的小數(shù):173.8125 轉(zhuǎn)換為二進制是 10101101.1101;在計算機中一般都會使用科學(xué)計算來處理浮點數(shù),也就是 173.8125 == 1.738125 * 10(2);那么二進制的表示也不例外,通過指數(shù)來定位小數(shù)點,用固定的精度來表示數(shù)據(jù);
在JavaScript使用的IEEE 754的雙精度數(shù)值,一個JavaScript的number表示應(yīng)該是二進制如下格式:
1[-/+] 11[位指數(shù)] 52[數(shù)值] 64位長 + - + -------- + ----------------------- +
64位的具體表述在不同系統(tǒng)可能順序會有差異,但是都是包含以下三部分:
符號位: 1bit,0表示正數(shù),1表示負數(shù)
指數(shù)位:11bit,也就是需要移動的位數(shù),也就是指數(shù)的大小;由于會存在負數(shù)和證書,所以這里用了一個偏移的方式處理,也就是真正的指數(shù)+1023,這樣的話就表示了【-1023 ~ 1024】;而-1023也就是全0,1024就是全1;
尾數(shù):52bit,這里需要注意的是由于小數(shù)點前面以為必須為1,所以實際上是52+1=53位;
參考:http://coolcao.com/2016/10/12...
http://www.cnblogs.com/kingwo...
可以看到,由于二進制的精確位數(shù)只有52+1位,那么類似 1/3 這樣的無理數(shù),那么肯定是無法表示的,而且二進制還有很多有理數(shù) 0.1這樣的也無法在52位精度的范圍內(nèi)表示精確無誤;都會被截取53位以后的所有數(shù)字。
有了以上的鋪墊,那么我們很容易就可以推到出原因了;推理步驟如下:
十進制0.1 =》 [利用上面說的方法來轉(zhuǎn)換,乘以2取整數(shù),然后順序獲取取出得數(shù)]
=>二進制為:0.0001100110011[0011…](循環(huán)0011,無限循環(huán)) =>指數(shù)表示:尾數(shù)為1.1001100110011001100…1100(共52位,除了小數(shù)點左邊的必須為1的數(shù)據(jù)),指數(shù)為-4(-4+1023 = 1019 二進制移碼為 01111111011),符號位為0 => 計算機存儲為:0 01111111011 10011001100110011…11001 => 因為尾數(shù)最多52位,所以實際存儲的值為0.00011001100110011001100110011001100110011001100110011001
而十進制0.2
=> 二進制0.0011001100110011…(循環(huán)0011) =>尾數(shù)為1.1001100110011001100…1100(共52位,除了小數(shù)點左邊的1),指數(shù)為-3(-3+1023=1020二進制移碼為01111111100),符號位為0 => 存儲為:0 01111111100 10011001100110011…11001 因為尾數(shù)最多52位,所以實際存儲的值為0.00110011001100110011001100110011001100110011001100110011
那么兩者相加得:
加法運算的時候需要注意以下幾點:
對階:需要將指數(shù)小的,變得和指數(shù)大的一樣,通過位數(shù)移位【移位注意有一個隱藏的小數(shù)點左邊的固定的1】
尾數(shù)運算:加法運算
結(jié)果規(guī)格化:規(guī)范為 位數(shù)的左邊第一位必須為隱藏的1,
舍入處理:主要是在截取的時候進行的處理,最后位舍去時為0直接舍去,為1則+1;【有多種舍入處理】
溢出判斷:
尾數(shù)加法運算開始,注意小數(shù)點左邊隱藏的默認(rèn)1
[1].1001100110011001100110011001100110011001100110011001 + [1].1001100110011001100110011001100110011001100110011001
//由于0.1是-3階,指數(shù)是-4,而0.2的指數(shù)位-3,故而取大者-3;這樣0.1需要右移一位,剛好之前小數(shù)點左側(cè)隱藏的1被移出來了;如下
.1100110011001100110011001100110011001100110011001100 【1被舍去】 + [1].1001100110011001100110011001100110011001100110011001 = 100110011001100110011001100110011001100110011001100111
此時階碼變?yōu)榱?-3,但是由于進位了兩位,但是最高位需要保留,故而階位只是+1,也就是-2了.也就是01111111101,
進行舍入處理,由于最高位一定是1,所以對結(jié)果最高位去除,末尾一位去除,由于是1,故而+1處理,得到新的52位位數(shù)為:
新的尾數(shù): 0011001100110011001100110011001100110011001100110100 存儲為: 0 01111111101 0011001100110011001100110011001100110011001100110100 十進制就是:0.3000000000000000444089209850062616169452667236328125 截取為: 0.30000000000000004
轉(zhuǎn)換成10進制之后得到:0.30000000000000004
思考看到 0.1+0.2 = 0.30000000000000004;我開始慌了,那么0.1+0.3 === 0.4 對嗎?我也不知道,雖然最后運算的時候證明是對的,但是還是可以按照我們的方法進行分析
十進制0.1 [利用上面說的方法來轉(zhuǎn)換,乘以2取整數(shù),然后順序獲取取出得數(shù)] =>二進制為:0.0001100110011[0011…](循環(huán)0011,無限循環(huán)) =>指數(shù)表示:尾數(shù)為1.1001100110011001100…1100(共52位,除了小數(shù)點左邊的必須為1的數(shù)據(jù)),指數(shù)為-4(-4+1023 = 1019 二進制移碼為 01111111011),符號位為0 => 計算機存儲為:0 01111111011 10011001100110011…11001 => 因為尾數(shù)最多52位,所以實際存儲的值為0.00011001100110011001100110011001100110011001100110011001 而十進制0.3 => 二進制0.010011001100110011001100110011001...(循環(huán)1001) =>尾數(shù)為1.00110011001100110011…0011(共52位,除了小數(shù)點左邊的1),指數(shù)為-2(-2+1023=1021二進制移碼為01111111101),符號位為0 => 存儲為:0 01111111101 0011001100110011…110011 因為尾數(shù)最多52位,所以實際存儲的值為0.01001100110011001100110011001100110011001100110011001100 那么兩者相加得[對階,為大者-2,-4階數(shù)的0.1左移兩位]: .0110011001100110011001100110011001100110011001100110 + [1].0011001100110011001100110011001100110011001100110011 = 1.1001100110011001100110011001100110011001100110011001 新的尾數(shù): 1001100110011001100110011001100110011001100110011001 存儲為: 0 01111111101 1001100110011001100110011001100110011001100110011001 十進制就是:0.39999999999999996447286321199499070644378662109375 截取為: 0.4
可以看到,JavaScript的小數(shù)保留了17位,
//一個52位小數(shù)的最小二進制的表示 0.0000000000000000000000000000000000000000000000000001 0.0000000000000002220446049250313 //一個53【加頭部默認(rèn)1位】位小數(shù)的最小二進制數(shù) 0.00000000000000000000000000000000000000000000000000001 0.00000000000000011102230246251565 Math.pow(2, 53) 9007199254740992 //當(dāng)大于這個數(shù)的時候就會丟失精度 Math.pow(2, -53) 1.1102230246251565e-16 //當(dāng)小于這個數(shù)也會丟失精度
JavaScript采用了17位來默認(rèn)截取數(shù)據(jù),根據(jù)四舍五入方法或者是說二進制中的0舎1進位的方式截取。
所以這樣的加法有的時候會出現(xiàn)精度問題,有的又不會??纯淳唧w的情況,在chrome的console里面運行的結(jié)果如下:
0.4-0.1 0.30000000000000004 0.3+0.1 0.4 0.1+0.2 0.30000000000000004
文章版權(quán)歸作者所有,未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請注明本文地址:http://systransis.cn/yun/84663.html
摘要:原因至于問題產(chǎn)生的原因,或者關(guān)于問題的更詳細的描述,大家請看下面幾個文章浮點運算浮點值運算舍入誤差基礎(chǔ)浮點數(shù)四則運算精度丟失問題解決方案這里主要討論一下解決方案的問題,上面幾篇文章的解決思路,都是重寫加法減法乘法和除法運算。 問題背景 在 chrome 瀏覽器中調(diào)出開發(fā)者工具,在控制臺窗口輸入下面的表達式: 0.1 + 0.2 // 期望:0.3,結(jié)果:0.300...
摘要:返回是,這是為什么呢我們知道浮點數(shù)計算是不精確的,上面的返回式實際上是這樣的在的新規(guī)范加入了一個新的東西是在對象上面,新增一個極小的常量。根據(jù)規(guī)格,它表示與大于的最小浮點數(shù)之間的差。上面的代碼為浮點數(shù)運算,部署了一個誤差檢查函數(shù)。 0.1+0.2 === 0.3 //返回是false, 這是為什么呢?? 我們知道浮點數(shù)計算是不精確的,上面的返回式實際上是這樣的:0.1 + 0.2 = ...
摘要:由于浮點數(shù)不是精確的值,所以涉及小數(shù)的比較和運算要特別小心。根據(jù)標(biāo)準(zhǔn),位浮點數(shù)的指數(shù)部分的長度是個二進制位,意味著指數(shù)部分的最大值是的次方減。也就是說,位浮點數(shù)的指數(shù)部分的值最大為。 一 前言 這篇文章主要解決以下三個問題: 問題1:浮點數(shù)計算精確度的問題 0.1 + 0.2; //0.30000000000000004 0.1 + 0.2 === 0.3; // ...
摘要:本文通過介紹的二進制存儲標(biāo)準(zhǔn)來理解浮點數(shù)運算精度問題,和理解對象的等屬性值是如何取值的,最后介紹了一些常用的浮點數(shù)精度運算解決方案。浮點數(shù)精度運算解決方案關(guān)于浮點數(shù)運算精度丟失的問題,不同場景可以有不同的解決方案。 本文由云+社區(qū)發(fā)表 相信大家在平常的 JavaScript 開發(fā)中,都有遇到過浮點數(shù)運算精度誤差的問題,比如 console.log(0.1+0.2===0.3)// fa...
摘要:又如,對于,結(jié)果其實并不是,但是最接近真實結(jié)果的數(shù),比其它任何浮點數(shù)都更接近。許多語言也就直接顯示結(jié)果為了,而不展示一個浮點數(shù)的真實結(jié)果了。小結(jié)本文主要介紹了浮點數(shù)計算問題,簡單回答了為什么以及怎么辦兩個問題為什么不等于。 原文地址:為什么0.1+0.2不等于0.3 先看兩個簡單但詭異的代碼: 0.1 + 0.2 > 0.3 // true 0.1 * 0.1 = 0.01000000...
閱讀 1813·2023-04-25 21:50
閱讀 2449·2019-08-30 15:53
閱讀 790·2019-08-30 13:19
閱讀 2774·2019-08-28 17:58
閱讀 2495·2019-08-23 16:21
閱讀 2730·2019-08-23 14:08
閱讀 1401·2019-08-23 11:32
閱讀 1469·2019-08-22 16:09