摘要:就像一些無(wú)理數(shù)不能有限表示,如圓周率,等。遵循規(guī)范,采用雙精度存儲(chǔ),占用。參考中不會(huì)失去精度的最大值數(shù)字精度丟失的一些典型問(wèn)題
問(wèn)題描述
后端返回 { spaceObject: { objectId: "1049564069045993472" } }
前端模版,使用的是 atpl 模版
前端獲取 objectId 的方式,const objectId = $("#test").data("id")
正常理解,我們獲取到的 objectId 就是返回的 1049564069045993472,可是現(xiàn)實(shí)情況是這個(gè) objectId 是 1049564069045993500
問(wèn)題拆分 一,為什么從 dom 中獲取的字符串會(huì)變成數(shù)字查看 zepto 代碼可知,由于通過(guò) $("#test").data("id") 獲取到的字符串 "1049564069045993472" 經(jīng)過(guò) deserializeValue 方法之后就變成數(shù)字了。
關(guān)鍵代碼如下:
data: function (name, value) { //[Opt:C]將原本在父級(jí)作用域的變量轉(zhuǎn)移至局部變量 var capitalRE = /([A-Z])/g, data = this.attr("data-" + name.replace(capitalRE, "-$1").toLowerCase(), value) return data !== null ? deserializeValue(data) : undefined }, // "true" => true // "false" => false // "null" => null // "42" => 42 // "42.5" => 42.5 // "08" => "08" // JSON => parse if valid // String => self function deserializeValue(value) { var num try { return value ? value == "true" || ( value == "false" ? false : value == "null" ? null : !/^0/.test(value) && !isNaN(num = Number(value)) ? num : /^[[{]/.test(value) ? $.parseJSON(value) : value ) : value } catch (e) { return value } }二,為什么數(shù)字跟 dom 中獲取的不一致
由于javascript的能夠保持精度的最大值是 9007199254740991,所以由于上面那個(gè)數(shù)字大于這個(gè)最大安全數(shù),所以會(huì)出現(xiàn)失去精度的問(wèn)題。
引申 javascript 中精度丟失的幾種情況 1. 簡(jiǎn)單的浮點(diǎn)數(shù)相加0.1 + 0.2 !== 0.3 // true
0.1 + 0.2 === 0.3 // false
)
99999999999999999 === 100000000000000000
(12.235).toFixed(2) // 12.23
首先,javascript 中保持精度不丟失的數(shù)值是有個(gè)范圍的,是在 Number.MIN_SAFE_INTEGER 和 Number.MAX_SAFE_INTEGER 之間. Number.MAX_SAFE_INTEGER => 9007199254740991 => 2的53次方-1
ECMA Section 8.5 - Numbers Note that all the positive and negative integers whose magnitude is no greater than 253 are representable in the Number type (indeed, the integer 0 has two representations, +0 and ?0).
計(jì)算機(jī)的二進(jìn)制實(shí)現(xiàn)和位數(shù)限制有些數(shù)無(wú)法有限表示。就像一些無(wú)理數(shù)不能有限表示,如 圓周率 3.1415926...,1.3333... 等。JS 遵循 IEEE 754 規(guī)范,采用雙精度存儲(chǔ)(double precision),占用 64 bit。如圖
* 1位用來(lái)表示符號(hào)位 * 11位用來(lái)表示指數(shù) * 52位表示尾數(shù)
深入了解
解決方案使用 big.js庫(kù)
如果是小數(shù)加減可以通過(guò)先將所有小數(shù)轉(zhuǎn)化為整數(shù)(乘倍數(shù)),然后完成運(yùn)算,最后縮小回去(除倍數(shù))。
0.01 + 0.2 // 0.21000000000000002 (0.01 * 100 + 0.2 * 100) / 100 // 0.21參考
javascript 中不會(huì)失去精度的最大值
JS數(shù)字精度丟失的一些典型問(wèn)題
文章版權(quán)歸作者所有,未經(jīng)允許請(qǐng)勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請(qǐng)注明本文地址:http://systransis.cn/yun/98303.html
摘要:前言在數(shù)據(jù)敏感的業(yè)務(wù)場(chǎng)景中,常常會(huì)碰到數(shù)據(jù)精度問(wèn)題,尤其在金額顯示占比統(tǒng)計(jì)等地方,該問(wèn)題尤為顯著。計(jì)算機(jī)原理真香數(shù)值的精度問(wèn)題,其實(shí)是非常基礎(chǔ)的計(jì)算機(jī)原理知識(shí)。前言 在數(shù)據(jù)敏感的業(yè)務(wù)場(chǎng)景中,常常會(huì)碰到數(shù)據(jù)精度問(wèn)題,尤其在金額顯示、占比統(tǒng)計(jì)等地方,該問(wèn)題尤為顯著。由于數(shù)據(jù)的每一位有效數(shù)字都包含真實(shí)的業(yè)務(wù)語(yǔ)義,一點(diǎn)點(diǎn)偏差甚至可能影響業(yè)務(wù)決策,這讓問(wèn)題的嚴(yán)重性上升了幾個(gè)階梯。 那,什么是精度丟失...
摘要:如題先陳述下問(wèn)題背景偶爾測(cè)測(cè)自己寫的計(jì)算器,隨便輸入玩嘛,然后發(fā)生下面詭異的事情當(dāng)我從一個(gè)輸入到十個(gè)的時(shí)候,過(guò)程顯示都是正確的,像這樣繼續(xù)輸入一個(gè)的時(shí)候,然后就這個(gè)樣子了什么原因呢看了下自己的代碼,代碼重要部分長(zhǎng)這樣的這里用了一下強(qiáng)制轉(zhuǎn)化為 如題 先陳述下問(wèn)題背景 偶爾測(cè)測(cè)自己寫的計(jì)算器,隨便輸入玩嘛,然后發(fā)生下面詭異的事情:當(dāng)我從一個(gè) 1 輸入到十個(gè) 1 的時(shí)候,過(guò)程顯示都是正確的...
摘要:推導(dǎo)為何等于在中所有數(shù)值都以標(biāo)準(zhǔn)的雙精度浮點(diǎn)數(shù)進(jìn)行存儲(chǔ)的。先來(lái)了解下標(biāo)準(zhǔn)下的雙精度浮點(diǎn)數(shù)。精度位總共是,因?yàn)橛每茖W(xué)計(jì)數(shù)法表示,所以首位固定的就沒(méi)有占用空間。驗(yàn)證完成的最大安全數(shù)是如何來(lái)的根據(jù)雙精度浮點(diǎn)數(shù)的構(gòu)成,精度位數(shù)是。 閱讀完本文可以了解到 0.1 + 0.2 為什么等于 0.30000000000000004 以及 JavaScript 中最大安全數(shù)是如何來(lái)的。 十進(jìn)制小數(shù)轉(zhuǎn)為二...
摘要:如圖意義位用來(lái)表示符號(hào)位位用來(lái)表示指數(shù)位表示尾數(shù)浮點(diǎn)數(shù),比如無(wú)限循環(huán)無(wú)限循環(huán)此時(shí)只能模仿十進(jìn)制進(jìn)行四舍五入了,但是二進(jìn)制只有和兩個(gè),于是變?yōu)樯崛搿_@即是計(jì)算機(jī)中部分浮點(diǎn)數(shù)運(yùn)算時(shí)出現(xiàn)誤差,丟失精度的根本原因。 showImg(http://ww1.sinaimg.cn/large/9c47d583gy1fmtw1ma9g4j21hc0u0ach.jpg); 前言 最近一直有小伙伴跟我說(shuō)J...
摘要:前言最近,朋友問(wèn)了我這樣一個(gè)問(wèn)題在中的運(yùn)算結(jié)果,為什么是這樣的雖然我告訴他說(shuō),這是由于浮點(diǎn)數(shù)精度問(wèn)題導(dǎo)致的。由于可以用階碼移動(dòng)小數(shù)點(diǎn),因此稱為浮點(diǎn)數(shù)。它的實(shí)現(xiàn)遵循標(biāo)準(zhǔn),使用位精度來(lái)表示浮點(diǎn)數(shù)。 showImg(https://segmentfault.com/img/remote/1460000018981071); 前言 最近,朋友 L 問(wèn)了我這樣一個(gè)問(wèn)題:在 chrome 中的運(yùn)算...
閱讀 1038·2021-11-23 09:51
閱讀 2366·2021-10-08 10:22
閱讀 2657·2021-09-29 09:35
閱讀 876·2021-09-22 15:20
閱讀 2873·2019-08-30 15:53
閱讀 2427·2019-08-30 13:55
閱讀 1114·2019-08-29 17:27
閱讀 2884·2019-08-29 17:26