成人国产在线小视频_日韩寡妇人妻调教在线播放_色成人www永久在线观看_2018国产精品久久_亚洲欧美高清在线30p_亚洲少妇综合一区_黄色在线播放国产_亚洲另类技巧小说校园_国产主播xx日韩_a级毛片在线免费

資訊專欄INFORMATION COLUMN

JavaScript 的內(nèi)部字符編碼是 UCS-2 還是 UTF-16

BlackHole1 / 3416人閱讀

摘要:二和之間的不同和都是的字符編碼方式。提示如果你喜歡閱讀關(guān)于的內(nèi)部字符編碼,可以,這里更詳細(xì)解釋了實(shí)際的問題,以及提供了解決方法。

對(duì)于 JavaScript 使用的是 UCS-2 還是 UTF-16 這個(gè)問題,我找了很久,沒有發(fā)現(xiàn)一個(gè)權(quán)威的回答,我決定自己研究一下它。這個(gè)回答來自于你對(duì) JavaScript 引擎或者對(duì) JavaScript 語言的理解。

一、著名的 BMP(Basic Multilingual Plane)

Unicode 標(biāo)識(shí)符通過一個(gè)明確的名字和一個(gè)整數(shù)來作為它的碼位(code point).比如,“??” 字符的碼位可以用“版權(quán)標(biāo)志”和U+00A9(0xA9,也可以寫作十進(jìn)制 169)來表示。

Unicode 字符分為 17 組平面,每個(gè)平面擁有 2^16 (65,536)個(gè)碼位.有一些碼位沒有分配字符,也有一些碼位被保留,成為私有的,也有一些碼位是永遠(yuǎn)被保留的,作為無字符的標(biāo)志。每一個(gè)碼位都可以用 16 進(jìn)制 xy0000xyFFFF 來表示,這里的 xy 是表示一個(gè) 16 進(jìn)制的值,從 0010。

這第一個(gè)位置(當(dāng) xy00 的時(shí)候)被稱為 BMP (基本多文種平面, Basic Multilingual Plane)。它包含了最常用的碼位從 U+0000 到 U+FFFF。

這里需要補(bǔ)充一點(diǎn)額外的平面知識(shí),以及術(shù)語的表格。

平面 始末字符值 中文名稱 英文名稱
0號(hào)平面 U+0000 - U+FFFF 基本多文種平面 BMP
1號(hào)平面 U+10000 - U+1FFFF 多文種補(bǔ)充平面 SMP
2號(hào)平面 U+20000 - U+2FFFF 表意文字補(bǔ)充平面 SIP
3號(hào)平面 U+30000 - U+3FFFF 表意文字第三平面 TIP
4~13號(hào)平面 U+40000 - U+DFFFF (尚未使用)
14號(hào)平面 U+E0000 - U+EFFFF 特別用途補(bǔ)充平面 SSP
15號(hào)平面 U+F0000 - U+FFFFF 保留作為私人使用區(qū)(A區(qū)) PUA-A
16號(hào)平面 U+100000 - U+10FFFF 保留作為私人使用區(qū)(B區(qū)) PUA-B

引用自:wikipedia

其余 16號(hào)平面(U+100000 到 U+10FFFF)稱為補(bǔ)充的平面。這里我將不討論它;只需要記住兩個(gè)概念:BMP 字符和非 BMP 字符,后者也被稱為補(bǔ)充字符。

二、UCS-2 和 UTF-16 之間的不同

UCS-2 和 UTF-16 都是 Unicode 的字符編碼方式。

UCS-2(2個(gè)字節(jié)的通用字符集)是一種固定長度的編碼格式,只需要使用編碼為 16 字節(jié)編碼單元來表示碼位。這樣的表示結(jié)果將和 UTF-16 在 00xFFFF (BMP)范圍內(nèi)大多數(shù)的結(jié)果一樣。

UTF-16(16 位 Unicode 轉(zhuǎn)換格式)是對(duì) UCS-2 的一個(gè)擴(kuò)展,它允許表示比 BMP 范圍內(nèi)更多的字符。它是一種可變長度格式,它的每個(gè)碼位能夠使用 1 位或者 2 位 16字節(jié)編碼單元來表示。這種方式能夠編碼的碼位在 00x10FFFF 之間。

比如,在 UCS-2 和 UTF-16 中,對(duì)于 BMP 字符 U+00A9 版權(quán)標(biāo)志(??)都能被編碼為:0x00A9。

這里補(bǔ)充一下 UCS-2、UCS-4、BMP

CPU 處理多字節(jié)數(shù)的方式分為:“大尾”(big endian)和“小尾”(little endian),簡單的理解就是一個(gè) Unicode 編碼,比如 6C49,寫到文件里面 6C 49 或者 49 6C,兩種方式,前者就叫“大尾”,后者就叫“小尾”。
UCS 可以分為兩種格式:UCS-2 和 UCS-4。UCS-2 使用兩個(gè)字節(jié)編碼,UCS-4 使用4個(gè)字節(jié)(實(shí)際只有 31 位,最高位必須是 0)編碼。
轉(zhuǎn)換關(guān)系:UCS-4 中高兩個(gè)字節(jié)為 0 的碼位稱為 BMP;UCS-4 的 BMP 去掉前面兩個(gè)零字節(jié)就得到 UCS-2;UCS-2 加上兩個(gè)零字節(jié)就得到 UCS-4 中的 BMP。

三、代理對(duì)(Surrogate pairs)

對(duì)于 BMP 之外的字符,比如 U+1D306 四條線居中(其實(shí)不好翻譯:tetragram for centre,?),只能使用 UTF-16 中兩個(gè) 16 字節(jié)來編碼:0xD834 0XDF06。這種就被稱為代理對(duì)。值得注意的是一個(gè)代理對(duì)只代表一個(gè)單字符。

補(bǔ)充一下代理對(duì)的概念

實(shí)際上就是指上面的一個(gè) UTF-16 編碼,使用 2 個(gè) 16 字節(jié)來編碼。
那是因?yàn)橐粋€(gè) UTF-16 編碼不夠,然后就應(yīng)該使用 2 個(gè) UTF-16 編碼來表示更多的字符。然后這樣就會(huì)出現(xiàn):之前 2 個(gè)字節(jié)的空間表示一個(gè)字符,就會(huì)變成 4 個(gè)字節(jié)的空間。所以就規(guī)定只有一定范圍內(nèi)使用 2 個(gè) UTF-16 編碼來表示一個(gè)字符,這樣的方式就叫代理對(duì),其余的依然使用 2 個(gè)字節(jié)來表示。

代理對(duì)中的第一個(gè)字符單元總是在 0xD8000xDBFF 之間,稱為高位代理或者頂部代理(high surrogate or lead surrogate,暫時(shí)這樣,查到專業(yè)術(shù)語再翻譯)。第二個(gè)字符單元總是處于 0xDC000xDFFF 之間,稱為低位代理或者尾部代理(low surrogate or trail surrogate)。

UCS-2 是缺乏對(duì)代理對(duì)的支持的,所以要表示之前的字符需要使用 2 個(gè)分隔的字符。

四、碼位(code points)和代理對(duì)(surrogate pairs)之間的轉(zhuǎn)換

Section 3.7 of The Unicode Standard 3.0(pdf) 中定義了一個(gè)轉(zhuǎn)換算法。

假設(shè):一個(gè)碼位 C 大于 0xFFFF 的編碼使用代理對(duì) 來表示的公式為:

H = Math.floor((C - 0x10000) / 0x400) + 0xD800
L = (C - 0x10000) % 0x400 + 0xDC00

轉(zhuǎn)換公式變換后,比如從代理對(duì) 轉(zhuǎn)換成一個(gè) Unicode 碼位 C,可以使用公式:

C = (H - 0xD800) * 0x400 + L - 0xDC00 + 0x10000
五、Ok,那么關(guān)于 JavaScript 的編碼問題呢?

在 ECMAScript 中定義來怎樣解釋字符的問題.

在 level 3 或者更高等級(jí)的實(shí)現(xiàn)中,遵循國際標(biāo)準(zhǔn),與 Unicode 3.0 標(biāo)準(zhǔn)或者更新的標(biāo)準(zhǔn),以及 ISO/IEC 10646-1,和 UCS-2 或者 UTF-16 作為編碼格式。如果采用的 ISO/IEC 10646-1 自己未被指定,它被認(rèn)定為 BMP 的自己,集合 300(這里沒懂)。如果沒有采用其它的編碼格式,那么將按照 UTF-16 進(jìn)行編碼。

換句話說,JavaScript 引擎是允許使用 UCS-2 或者 UTF-16 進(jìn)行編碼的。

然后按照 specific parts 規(guī)定,認(rèn)為引擎里面的編碼需要一些 UTF-16 的知識(shí)。

當(dāng)然,內(nèi)部引擎對(duì)于大多數(shù) JavaScript 開發(fā)者來說沒有實(shí)際影響。對(duì)于更多有趣的發(fā)現(xiàn)JavaScript 是如何考慮字符的 中,有一段:

盡管在本文檔的其它部分中,表示字符單元和文字字符將使用 16 位的無符號(hào)值,用來表示單個(gè) 16 位文本單元。Unicode 字符將使用抽象的語言或印刷單元(可超過16位,因此可以由多個(gè)代碼單元)來表示。碼位可以用 Unicode 標(biāo)準(zhǔn)值來表示。一個(gè)組合字符序列的成分可以有個(gè)別“Unicode 字符”,即使一個(gè)用戶可能會(huì)認(rèn)為整個(gè)序列是單個(gè)字符。

可能需要重新翻譯,原文

Throughout the rest of this document, the phrase code unit and the word character will be used to refer to a 16-bit unsigned value used to represent a single 16-bit unit of text.

The phrase Unicode character will be used to refer to the abstract linguistic or typographical unit represented by a single Unicode scalar value (which may be longer than 16 bits and thus may be represented by more than one code unit).
The phrase code point refers to such a Unicode scalar value.
Unicode character only refers to entities represented by single Unicode scalar values: the components of a combining character sequence are still individual “Unicode characters”, even though a user might think of the whole sequence as a single character.

JavaScript 使用多帶帶字符來處理字符單元,然后人們通常認(rèn)為是一組 Unicode 字符。當(dāng)使用 BMP 范圍外 Unicode 字符的時(shí)候,這樣會(huì)有一些不好的結(jié)果。比如代理對(duì)使用 2 個(gè)字符單元組成:"?".length == 2,即使這里是只有一個(gè) Unicode 字符。如果是字符,代理對(duì)將暴露一部分:"?" == "uD834uDF06"。

在這里你想到了什么呢?對(duì)于這種方式,至少是 UCS-2 的替代方式(不同的地方是,UCS-2 不允許有代理字符,然后 JavaScript 字符串是這樣做的)。

你可以認(rèn)為它像 UTF-16 一樣在工作,特別是分成兩部分的方式是被允許的,代理的這種錯(cuò)誤排序是被允許的,代理被暴露成了分離的字符。我認(rèn)為你將更容易的理解成這種行為叫“UCS-2 的代理方式”(UCS-2 with surrogates,不好翻譯,也可以理解成伴隨著代理的 UCS-2)。

類似 UCS-2 的行為對(duì)整個(gè)語言更有影響,比如 補(bǔ)充字符范圍的正則表達(dá)式 比那些支持 UTF-16 的語言要更難寫。

代理對(duì)只是為了顯示在瀏覽器中(layout 的時(shí)候),對(duì)單個(gè) Unicode 字符的重新組合。這發(fā)生在 JavaScript 引擎的影響范圍之外。為了證明這個(gè),你能在 document.write() 的時(shí)候分開寫一個(gè)高位代理和地位代理字符.

document.write("uD834");
document.write("uDF06");

在結(jié)束后也將被渲染成一個(gè)圖案:?

六、結(jié)論

JavaScript 引擎內(nèi)部是自由的使用 UCS-2 或者 UTF-16。我所知道的大多數(shù)引擎使用的是 UTF-16,無論它們使用什么方式實(shí)現(xiàn),它只是一個(gè)具體的實(shí)現(xiàn),這不將影響到語言的特性。

然后對(duì)于 ECMAScript/JavaScript 語言本身,實(shí)現(xiàn)的效果是通過 UCS-2,而非 UTF-16。

如果你在任何時(shí)候需要 編碼一個(gè) Unicode 字符, 在必要的時(shí)候能夠替換成分離的代理,也可以免費(fèi)試用我的 JavaScript escaper 工具。

如果你想在一個(gè) JavaScript 字符串中獲取 Unicode 字符的長度,或者創(chuàng)建一個(gè)基于 non-BMP Unicode 碼位的字符串,你能使用 Punycode.js 的工具方法,將 UCS-2 字符串轉(zhuǎn)換成 UTF-16 碼位。

// `String.length` 只是統(tǒng)計(jì)所以 Unicode 字符
punycode.ucs2.decode("?").length; // 1
// `String.fromCharCode` 能夠讓你直接使用非分離的代理
punycode.ucs2.encode([0x1D306]); // "?"
punycode.ucs2.encode([119558]); // "?"

ECMAScript 6 在字符串中將支持一些新的編碼序列(現(xiàn)在看來已經(jīng) ok 了,可以查看一下資料簡單了解下),名為 Unicode code point escapes 比如:u{1D306}。另外,它將定義 String.fromCodePointString#codePointAt,這兩個(gè)方法都接受碼位(code points) 而不是字符單元(code units)

感謝:Jonas ‘nlogax’ Westerlund, Andrew ‘bobince’ Clover 以及 Tab Atkins Jr.。他們給了我調(diào)查的靈感和幫助我。

提示:如果你喜歡閱讀關(guān)于 JavaScript 的內(nèi)部字符編碼,可以 check out JavaScript has a Unicode problem,這里更詳細(xì)解釋了實(shí)際的問題,以及提供了解決方法。

翻譯原文:https://mathiasbynens.be/notes/javascript-encoding
個(gè)人博客:http://www.60sky.com

文章版權(quán)歸作者所有,未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。

轉(zhuǎn)載請注明本文地址:http://systransis.cn/yun/80442.html

相關(guān)文章

  • Unicode與JavaScript詳解

    摘要:本文大部分內(nèi)容轉(zhuǎn)自阮一峰前輩的文章,更新了部分內(nèi)容并加入了部分自己的理解。字符串處理函數(shù)新增了幾個(gè)專門處理字節(jié)碼點(diǎn)的函數(shù)。參考鏈接阮一峰與詳解輔助平面入門 本文大部分內(nèi)容轉(zhuǎn)自 阮一峰前輩的文章,更新了部分內(nèi)容并加入了部分自己的理解。 Unicode是什么? Unicode源于一個(gè)很簡單的想法:將全世界所有的字符包含在一個(gè)集合里,計(jì)算機(jī)只要支持這一個(gè)字符集,就能顯示所有的字符,再也不會(huì)有...

    econi 評(píng)論0 收藏0
  • Node閑談之Buffer

    摘要:閑談系列不涉及具體的講解,只會(huì)勾勾畫畫一些自己認(rèn)為比較重要的特性。我們一般認(rèn)為用兩個(gè)字節(jié)位表示,并且完全囊括了字符集。將其轉(zhuǎn)換成進(jìn)制就是只是表示它們是碼。三的讀取和寫入相關(guān)重要的只有能夠讀寫,才能夠顯示其存在的價(jià)值。 原文地址:http://www.cnblogs.com/DeanCh... 在剛接觸Nodejs的時(shí)候,有些概念總讓學(xué)前端的我感到困惑(雖然大學(xué)的時(shí)候也是在搞后端,世界上...

    Godtoy 評(píng)論0 收藏0
  • 細(xì)說Unicode(二) Unicode與JavaScript糾葛

    摘要:受到這個(gè)的影響,中的字符操作函數(shù)某些情況無法返回正確的結(jié)果。的碼點(diǎn),還有另外一種表示方法,稱為進(jìn)制轉(zhuǎn)義序列。這與我們的認(rèn)知有點(diǎn)不同,我們通常認(rèn)為一個(gè)表情符號(hào)也是一個(gè)字符,長度為。而如果通過來判斷字符串長度顯然是不夠準(zhǔn)確的。 大家對(duì)上一篇文章中提到的UCS編碼可能比較陌生。殊不知這就是JavaScript采用的編碼方法。 既然Unicode已經(jīng)統(tǒng)一了天下,為什么JavaScript不采用...

    Achilles 評(píng)論0 收藏0
  • 前端字符編碼小結(jié)

    摘要:導(dǎo)語本文源于微信游戲春節(jié)王者搖心愿活動(dòng)英雄語音祝福自定義輸入模塊開發(fā)過程,對(duì)踩過的前端字符編碼的坑進(jìn)行記錄總結(jié)。只規(guī)定了字符編碼,而并沒有規(guī)定具體的編碼方式。 導(dǎo)語 本文源于微信游戲春節(jié)王者搖心愿活動(dòng)英雄語音祝福自定義輸入模塊開發(fā)過程,對(duì)踩過的前端字符編碼的坑進(jìn)行記錄總結(jié)。 Unicode 字符 Unicode(中文:萬國碼、國際碼、統(tǒng)一碼、單一碼)是計(jì)算機(jī)科學(xué)領(lǐng)域里的一項(xiàng)業(yè)界標(biāo)準(zhǔn)。它...

    gitmilk 評(píng)論0 收藏0
  • 每日 30 秒 ? 字符編碼排雷錄

    showImg(https://segmentfault.com/img/remote/1460000018653055?w=900&h=500); 簡介 字符編碼、字符長度錯(cuò)誤、截取字符錯(cuò)誤、UTF8、Unicode 計(jì)算機(jī)重重底層之下都是由 0 和 1 組合,但是你知道他們是怎么一步步變成字符串的嘛?在我們現(xiàn)實(shí)生活中最常見的例子可以通過 wo 在新華字典中找到 我 這個(gè)字。同樣計(jì)算機(jī)通過 0 ...

    mmy123456 評(píng)論0 收藏0

發(fā)表評(píng)論

0條評(píng)論

最新活動(dòng)
閱讀需要支付1元查看
<