成人国产在线小视频_日韩寡妇人妻调教在线播放_色成人www永久在线观看_2018国产精品久久_亚洲欧美高清在线30p_亚洲少妇综合一区_黄色在线播放国产_亚洲另类技巧小说校园_国产主播xx日韩_a级毛片在线免费

資訊專欄INFORMATION COLUMN

js數(shù)字計(jì)算丟失精度問(wèn)題解決方案

浠ラ箍 / 1747人閱讀

摘要：計(jì)算機(jī)世界里，數(shù)字的計(jì)算，所有語(yǔ)言都會(huì)丟失精度，所以沒(méi)有萬(wàn)全之策，但在人力范圍內(nèi)，盡量解決。

計(jì)算機(jī)世界里，數(shù)字的計(jì)算，所有語(yǔ)言都會(huì)丟失精度，所以沒(méi)有萬(wàn)全之策，但在人力范圍內(nèi)，盡量解決。

網(wǎng)上找了一部分代碼，發(fā)現(xiàn)是有問(wèn)題的，比如:

//加法 
Number.prototype.myAdd = function(arg2) {
    var arg1 = this;
    if (isNaN(arg2)) {
        return arg2;
    }
    var r1, r2, m;
    try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 }
    try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 }
    m = Math.pow(10, Math.max(r1, r2))
    return (arg1 * m + arg2 * m) / m
}
//減法 
Number.prototype.mySub = function(arg2) {
    var arg1 = this;
    if (isNaN(arg2)) {
        return arg2;
    }
    var r1, r2, m, n;
    try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 }
    try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 }
    m = Math.pow(10, Math.max(r1, r2));
    n = (r1 >= r2) ? r1 : r2;
    return ((arg1 * m - arg2 * m) / m).toFixed(n);
}
//乘法 
Number.prototype.myMul = function(arg2) {
    var arg1 = this;
    if (isNaN(arg2)) {
        return arg2;
    }
    var m = 0,
        s1 = arg1.toString(),
        s2 = arg2.toString();
    try { m += s1.split(".")[1].length } catch (e) {}
    try { m += s2.split(".")[1].length } catch (e) {}
    return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m)
}

// 除法
Number.prototype.myDiv = function(arg2) {
    var arg1 = this;
    if (isNaN(arg2)) {
        return arg2;
    }
    var t1 = 0,
        t2 = 0,
        r1, r2;
    try { t1 = arg1.toString().split(".")[1].length } catch (e) {}
    try { t2 = arg2.toString().split(".")[1].length } catch (e) {}
    with(Math) {
        r1 = Number(arg1.toString().replace(".", ""))
        r2 = Number(arg2.toString().replace(".", ""))
        return (r1 / r2).myMul(pow(10, t2 - t1))
    }
}

在計(jì)算一些特殊的數(shù)字時(shí)，仍然有問(wèn)題：
比如加法：

268.34.myDiv(0.83);//321.7505995203837

所以還要優(yōu)化

我重新做了一版：

var operationNumber = function (arg1,arg2,operator) {
    var oper=["+","-","*","/"];
    // 不合法的運(yùn)算
    if (isNaN(arg1)||isNaN(arg2)||oper.indexOf(operator)<0) {
        return NaN;
    }
    // 除以0
    if (operator==="/"&&Number(arg2)===0) {
        return Infinity;
    }
    // 和0相乘
    if (operator==="*"&&Number(arg2)===0) {
        return 0;
    }
    // 相等兩個(gè)數(shù)字相減
    if ((arg1===arg2||Number(arg1)===Number(arg2))&&operator==="-") {
        return 0;
    }
    var r1, r2, max,_r1,_r2;
    try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 }
    try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 }
    max = Math.max(r1, r2)
    _r1 = max-r1;
    _r2 = max-r2;
    if (_r1!==0) {
        arg1=arg1+"0".repeat(_r1)
    }
    if (_r2!==0) {
        arg2=arg2+"0".repeat(_r2)
    }
    arg1 = Number(arg1.toString().replace(".",""))
    arg2 = Number(arg2.toString().replace(".",""))
    var r3 = operator==="*"?(max*2):(operator==="/"?0:max);
    var newNum = eval(arg1+operator+arg2);

    if (r3!==0) {
        var nStr = newNum.toString();
        nStr = nStr.replace(/^-/,"");
        if (nStr.length

如果你發(fā)現(xiàn)了bug，評(píng)論區(qū)及時(shí)反饋，我及時(shí)跟進(jìn)修復(fù)

文章版權(quán)歸作者所有，未經(jīng)允許請(qǐng)勿轉(zhuǎn)載,若此文章存在違規(guī)行為，您可以聯(lián)系管理員刪除。

轉(zhuǎn)載請(qǐng)注明本文地址：http://systransis.cn/yun/104224.html

相關(guān)文章

  • 從一個(gè) bug 看 javascript 的精度丟失的問(wèn)題

    摘要：就像一些無(wú)理數(shù)不能有限表示，如圓周率，等。遵循規(guī)范，采用雙精度存儲(chǔ)，占用。參考中不會(huì)失去精度的最大值數(shù)字精度丟失的一些典型問(wèn)題 問(wèn)題描述 后端返回 { spaceObject: { objectId: 1049564069045993472 } } 前端模版，使用的是 atpl 模版 前端獲取 objectId 的方式，const objectId = $(#test).da...

    NusterCache 評(píng)論0 收藏0

  • [ JS 基礎(chǔ) ] JS 浮點(diǎn)數(shù)四則運(yùn)算精度丟失問(wèn)題 (3)

    摘要：基于這個(gè)問(wèn)題運(yùn)動(dòng)基礎(chǔ)問(wèn)題，我想應(yīng)該也有一部分人沒(méi)有認(rèn)真對(duì)待過(guò)中浮點(diǎn)數(shù)的四則運(yùn)算出現(xiàn)的問(wèn)題。解決方案引自解決方案為了解決浮點(diǎn)數(shù)運(yùn)算不準(zhǔn)確的問(wèn)題，在運(yùn)算前我們把參加運(yùn)算的數(shù)先升級(jí)的的次方到整數(shù)，等運(yùn)算完后再降級(jí)的的次方。 基于這個(gè)問(wèn)題：javascript運(yùn)動(dòng)基礎(chǔ)問(wèn)題 ，我想應(yīng)該也有一部分人沒(méi)有認(rèn)真對(duì)待過(guò)js中浮點(diǎn)數(shù)的四則運(yùn)算出現(xiàn)的問(wèn)題。 1.問(wèn)題描述 示例代碼： var x ...

    hoohack 評(píng)論0 收藏0

  • 由parseInt 引發(fā)的問(wèn)題---想到浮點(diǎn)運(yùn)算精度丟失---看透js number 的 encod

    摘要：如題先陳述下問(wèn)題背景偶爾測(cè)測(cè)自己寫(xiě)的計(jì)算器，隨便輸入玩嘛，然后發(fā)生下面詭異的事情當(dāng)我從一個(gè)輸入到十個(gè)的時(shí)候，過(guò)程顯示都是正確的，像這樣繼續(xù)輸入一個(gè)的時(shí)候，然后就這個(gè)樣子了什么原因呢看了下自己的代碼，代碼重要部分長(zhǎng)這樣的這里用了一下強(qiáng)制轉(zhuǎn)化為 如題 先陳述下問(wèn)題背景 偶爾測(cè)測(cè)自己寫(xiě)的計(jì)算器，隨便輸入玩嘛，然后發(fā)生下面詭異的事情：當(dāng)我從一個(gè) 1 輸入到十個(gè) 1 的時(shí)候，過(guò)程顯示都是正確的...

    hightopo 評(píng)論0 收藏0

  • JavaScript 精度丟失問(wèn)題

    摘要：排除直接使用的數(shù)太大或太小超出范圍，出現(xiàn)這種問(wèn)題的情況基本是浮點(diǎn)數(shù)的小數(shù)部分在轉(zhuǎn)成二進(jìn)制時(shí)丟失了精度，所以我們可以將小數(shù)部分也轉(zhuǎn)換成整數(shù)后再計(jì)算。 // 1. 兩數(shù)相加 // 0.1 + 0.2 = 0.30000000000000004 // 0.7 + 0.1 = 0.7999999999999999 // 0.2 + 0.4 = 0.6000000000000001 // 2.2...

    iOS122 評(píng)論0 收藏0

  • JavaScript 基礎(chǔ)知識(shí) - 入門(mén)篇(一)

    摘要：如圖意義位用來(lái)表示符號(hào)位位用來(lái)表示指數(shù)位表示尾數(shù)浮點(diǎn)數(shù)，比如無(wú)限循環(huán)無(wú)限循環(huán)此時(shí)只能模仿十進(jìn)制進(jìn)行四舍五入了，但是二進(jìn)制只有和兩個(gè)，于是變?yōu)樯崛?。這即是計(jì)算機(jī)中部分浮點(diǎn)數(shù)運(yùn)算時(shí)出現(xiàn)誤差，丟失精度的根本原因。 showImg(http://ww1.sinaimg.cn/large/9c47d583gy1fmtw1ma9g4j21hc0u0ach.jpg); 前言 最近一直有小伙伴跟我說(shuō)J...

    sarva 評(píng)論0 收藏0

發(fā)表評(píng)論

0條評(píng)論

浠ラ箍

男|高級(jí)講師

TA的文章

閱讀更多
最新活動(dòng)
閱讀需要支付1元查看
<