摘要:二和之間的不同和都是的字符編碼方式。提示如果你喜歡閱讀關(guān)于的內(nèi)部字符編碼,可以,這里更詳細(xì)解釋了實(shí)際的問題,以及提供了解決方法。
對(duì)于 JavaScript 使用的是 UCS-2 還是 UTF-16 這個(gè)問題,我找了很久,沒有發(fā)現(xiàn)一個(gè)權(quán)威的回答,我決定自己研究一下它。這個(gè)回答來自于你對(duì) JavaScript 引擎或者對(duì) JavaScript 語言的理解。
一、著名的 BMP(Basic Multilingual Plane)Unicode 標(biāo)識(shí)符通過一個(gè)明確的名字和一個(gè)整數(shù)來作為它的碼位(code point).比如,“??” 字符的碼位可以用“版權(quán)標(biāo)志”和U+00A9(0xA9,也可以寫作十進(jìn)制 169)來表示。
Unicode 字符分為 17 組平面,每個(gè)平面擁有 2^16 (65,536)個(gè)碼位.有一些碼位沒有分配字符,也有一些碼位被保留,成為私有的,也有一些碼位是永遠(yuǎn)被保留的,作為無字符的標(biāo)志。每一個(gè)碼位都可以用 16 進(jìn)制 xy0000 到 xyFFFF 來表示,這里的 xy 是表示一個(gè) 16 進(jìn)制的值,從 00 到 10。
這第一個(gè)位置(當(dāng) xy 是 00 的時(shí)候)被稱為 BMP (基本多文種平面, Basic Multilingual Plane)。它包含了最常用的碼位從 U+0000 到 U+FFFF。
這里需要補(bǔ)充一點(diǎn)額外的平面知識(shí),以及術(shù)語的表格。
平面 | 始末字符值 | 中文名稱 | 英文名稱 |
---|---|---|---|
0號(hào)平面 | U+0000 - U+FFFF | 基本多文種平面 | BMP |
1號(hào)平面 | U+10000 - U+1FFFF | 多文種補(bǔ)充平面 | SMP |
2號(hào)平面 | U+20000 - U+2FFFF | 表意文字補(bǔ)充平面 | SIP |
3號(hào)平面 | U+30000 - U+3FFFF | 表意文字第三平面 | TIP |
4~13號(hào)平面 | U+40000 - U+DFFFF | (尚未使用) | |
14號(hào)平面 | U+E0000 - U+EFFFF | 特別用途補(bǔ)充平面 | SSP |
15號(hào)平面 | U+F0000 - U+FFFFF | 保留作為私人使用區(qū)(A區(qū)) | PUA-A |
16號(hào)平面 | U+100000 - U+10FFFF | 保留作為私人使用區(qū)(B區(qū)) | PUA-B |
引用自:wikipedia
其余 16號(hào)平面(U+100000 到 U+10FFFF)稱為補(bǔ)充的平面。這里我將不討論它;只需要記住兩個(gè)概念:BMP 字符和非 BMP 字符,后者也被稱為補(bǔ)充字符。
二、UCS-2 和 UTF-16 之間的不同UCS-2 和 UTF-16 都是 Unicode 的字符編碼方式。
UCS-2(2個(gè)字節(jié)的通用字符集)是一種固定長度的編碼格式,只需要使用編碼為 16 字節(jié)編碼單元來表示碼位。這樣的表示結(jié)果將和 UTF-16 在 0 到 0xFFFF (BMP)范圍內(nèi)大多數(shù)的結(jié)果一樣。
UTF-16(16 位 Unicode 轉(zhuǎn)換格式)是對(duì) UCS-2 的一個(gè)擴(kuò)展,它允許表示比 BMP 范圍內(nèi)更多的字符。它是一種可變長度格式,它的每個(gè)碼位能夠使用 1 位或者 2 位 16字節(jié)編碼單元來表示。這種方式能夠編碼的碼位在 0 到 0x10FFFF 之間。
比如,在 UCS-2 和 UTF-16 中,對(duì)于 BMP 字符 U+00A9 版權(quán)標(biāo)志(??)都能被編碼為:0x00A9。
這里補(bǔ)充一下 UCS-2、UCS-4、BMP
三、代理對(duì)(Surrogate pairs)CPU 處理多字節(jié)數(shù)的方式分為:“大尾”(big endian)和“小尾”(little endian),簡單的理解就是一個(gè) Unicode 編碼,比如 6C49,寫到文件里面 6C 49 或者 49 6C,兩種方式,前者就叫“大尾”,后者就叫“小尾”。
UCS 可以分為兩種格式:UCS-2 和 UCS-4。UCS-2 使用兩個(gè)字節(jié)編碼,UCS-4 使用4個(gè)字節(jié)(實(shí)際只有 31 位,最高位必須是 0)編碼。
轉(zhuǎn)換關(guān)系:UCS-4 中高兩個(gè)字節(jié)為 0 的碼位稱為 BMP;UCS-4 的 BMP 去掉前面兩個(gè)零字節(jié)就得到 UCS-2;UCS-2 加上兩個(gè)零字節(jié)就得到 UCS-4 中的 BMP。
對(duì)于 BMP 之外的字符,比如 U+1D306 四條線居中(其實(shí)不好翻譯:tetragram for centre,?),只能使用 UTF-16 中兩個(gè) 16 字節(jié)來編碼:0xD834 0XDF06。這種就被稱為代理對(duì)。值得注意的是一個(gè)代理對(duì)只代表一個(gè)單字符。
補(bǔ)充一下代理對(duì)的概念
實(shí)際上就是指上面的一個(gè) UTF-16 編碼,使用 2 個(gè) 16 字節(jié)來編碼。
那是因?yàn)橐粋€(gè) UTF-16 編碼不夠,然后就應(yīng)該使用 2 個(gè) UTF-16 編碼來表示更多的字符。然后這樣就會(huì)出現(xiàn):之前 2 個(gè)字節(jié)的空間表示一個(gè)字符,就會(huì)變成 4 個(gè)字節(jié)的空間。所以就規(guī)定只有一定范圍內(nèi)使用 2 個(gè) UTF-16 編碼來表示一個(gè)字符,這樣的方式就叫代理對(duì),其余的依然使用 2 個(gè)字節(jié)來表示。
代理對(duì)中的第一個(gè)字符單元總是在 0xD800 到 0xDBFF 之間,稱為高位代理或者頂部代理(high surrogate or lead surrogate,暫時(shí)這樣,查到專業(yè)術(shù)語再翻譯)。第二個(gè)字符單元總是處于 0xDC00 到 0xDFFF 之間,稱為低位代理或者尾部代理(low surrogate or trail surrogate)。
UCS-2 是缺乏對(duì)代理對(duì)的支持的,所以要表示之前的字符需要使用 2 個(gè)分隔的字符。
四、碼位(code points)和代理對(duì)(surrogate pairs)之間的轉(zhuǎn)換Section 3.7 of The Unicode Standard 3.0(pdf) 中定義了一個(gè)轉(zhuǎn)換算法。
假設(shè):一個(gè)碼位 C 大于 0xFFFF 的編碼使用代理對(duì)
H = Math.floor((C - 0x10000) / 0x400) + 0xD800 L = (C - 0x10000) % 0x400 + 0xDC00
轉(zhuǎn)換公式變換后,比如從代理對(duì)
C = (H - 0xD800) * 0x400 + L - 0xDC00 + 0x10000五、Ok,那么關(guān)于 JavaScript 的編碼問題呢?
在 ECMAScript 中定義來怎樣解釋字符的問題.
在 level 3 或者更高等級(jí)的實(shí)現(xiàn)中,遵循國際標(biāo)準(zhǔn),與 Unicode 3.0 標(biāo)準(zhǔn)或者更新的標(biāo)準(zhǔn),以及 ISO/IEC 10646-1,和 UCS-2 或者 UTF-16 作為編碼格式。如果采用的 ISO/IEC 10646-1 自己未被指定,它被認(rèn)定為 BMP 的自己,集合 300(這里沒懂)。如果沒有采用其它的編碼格式,那么將按照 UTF-16 進(jìn)行編碼。
換句話說,JavaScript 引擎是允許使用 UCS-2 或者 UTF-16 進(jìn)行編碼的。
然后按照 specific parts 規(guī)定,認(rèn)為引擎里面的編碼需要一些 UTF-16 的知識(shí)。
當(dāng)然,內(nèi)部引擎對(duì)于大多數(shù) JavaScript 開發(fā)者來說沒有實(shí)際影響。對(duì)于更多有趣的發(fā)現(xiàn)JavaScript 是如何考慮字符的 中,有一段:
盡管在本文檔的其它部分中,表示字符單元和文字字符將使用 16 位的無符號(hào)值,用來表示單個(gè) 16 位文本單元。Unicode 字符將使用抽象的語言或印刷單元(可超過16位,因此可以由多個(gè)代碼單元)來表示。碼位可以用 Unicode 標(biāo)準(zhǔn)值來表示。一個(gè)組合字符序列的成分可以有個(gè)別“Unicode 字符”,即使一個(gè)用戶可能會(huì)認(rèn)為整個(gè)序列是單個(gè)字符。
可能需要重新翻譯,原文
Throughout the rest of this document, the phrase code unit and the word character will be used to refer to a 16-bit unsigned value used to represent a single 16-bit unit of text.
The phrase Unicode character will be used to refer to the abstract linguistic or typographical unit represented by a single Unicode scalar value (which may be longer than 16 bits and thus may be represented by more than one code unit).
The phrase code point refers to such a Unicode scalar value.
Unicode character only refers to entities represented by single Unicode scalar values: the components of a combining character sequence are still individual “Unicode characters”, even though a user might think of the whole sequence as a single character.
JavaScript 使用多帶帶字符來處理字符單元,然后人們通常認(rèn)為是一組 Unicode 字符。當(dāng)使用 BMP 范圍外 Unicode 字符的時(shí)候,這樣會(huì)有一些不好的結(jié)果。比如代理對(duì)使用 2 個(gè)字符單元組成:"?".length == 2,即使這里是只有一個(gè) Unicode 字符。如果是字符,代理對(duì)將暴露一部分:"?" == "uD834uDF06"。
在這里你想到了什么呢?對(duì)于這種方式,至少是 UCS-2 的替代方式(不同的地方是,UCS-2 不允許有代理字符,然后 JavaScript 字符串是這樣做的)。
你可以認(rèn)為它像 UTF-16 一樣在工作,特別是分成兩部分的方式是被允許的,代理的這種錯(cuò)誤排序是被允許的,代理被暴露成了分離的字符。我認(rèn)為你將更容易的理解成這種行為叫“UCS-2 的代理方式”(UCS-2 with surrogates,不好翻譯,也可以理解成伴隨著代理的 UCS-2)。
類似 UCS-2 的行為對(duì)整個(gè)語言更有影響,比如 補(bǔ)充字符范圍的正則表達(dá)式 比那些支持 UTF-16 的語言要更難寫。
代理對(duì)只是為了顯示在瀏覽器中(layout 的時(shí)候),對(duì)單個(gè) Unicode 字符的重新組合。這發(fā)生在 JavaScript 引擎的影響范圍之外。為了證明這個(gè),你能在 document.write() 的時(shí)候分開寫一個(gè)高位代理和地位代理字符.
document.write("uD834"); document.write("uDF06");
在結(jié)束后也將被渲染成一個(gè)圖案:?。
六、結(jié)論JavaScript 引擎內(nèi)部是自由的使用 UCS-2 或者 UTF-16。我所知道的大多數(shù)引擎使用的是 UTF-16,無論它們使用什么方式實(shí)現(xiàn),它只是一個(gè)具體的實(shí)現(xiàn),這不將影響到語言的特性。
然后對(duì)于 ECMAScript/JavaScript 語言本身,實(shí)現(xiàn)的效果是通過 UCS-2,而非 UTF-16。
如果你在任何時(shí)候需要 編碼一個(gè) Unicode 字符, 在必要的時(shí)候能夠替換成分離的代理,也可以免費(fèi)試用我的 JavaScript escaper 工具。
如果你想在一個(gè) JavaScript 字符串中獲取 Unicode 字符的長度,或者創(chuàng)建一個(gè)基于 non-BMP Unicode 碼位的字符串,你能使用 Punycode.js 的工具方法,將 UCS-2 字符串轉(zhuǎn)換成 UTF-16 碼位。
// `String.length` 只是統(tǒng)計(jì)所以 Unicode 字符 punycode.ucs2.decode("?").length; // 1 // `String.fromCharCode` 能夠讓你直接使用非分離的代理 punycode.ucs2.encode([0x1D306]); // "?" punycode.ucs2.encode([119558]); // "?"
ECMAScript 6 在字符串中將支持一些新的編碼序列(現(xiàn)在看來已經(jīng) ok 了,可以查看一下資料簡單了解下),名為 Unicode code point escapes 比如:u{1D306}。另外,它將定義 String.fromCodePoint 和 String#codePointAt,這兩個(gè)方法都接受碼位(code points) 而不是字符單元(code units)
感謝:Jonas ‘nlogax’ Westerlund, Andrew ‘bobince’ Clover 以及 Tab Atkins Jr.。他們給了我調(diào)查的靈感和幫助我。
提示:如果你喜歡閱讀關(guān)于 JavaScript 的內(nèi)部字符編碼,可以 check out JavaScript has a Unicode problem,這里更詳細(xì)解釋了實(shí)際的問題,以及提供了解決方法。
翻譯原文:https://mathiasbynens.be/notes/javascript-encoding
個(gè)人博客:http://www.60sky.com
文章版權(quán)歸作者所有,未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請注明本文地址:http://systransis.cn/yun/80442.html
摘要:本文大部分內(nèi)容轉(zhuǎn)自阮一峰前輩的文章,更新了部分內(nèi)容并加入了部分自己的理解。字符串處理函數(shù)新增了幾個(gè)專門處理字節(jié)碼點(diǎn)的函數(shù)。參考鏈接阮一峰與詳解輔助平面入門 本文大部分內(nèi)容轉(zhuǎn)自 阮一峰前輩的文章,更新了部分內(nèi)容并加入了部分自己的理解。 Unicode是什么? Unicode源于一個(gè)很簡單的想法:將全世界所有的字符包含在一個(gè)集合里,計(jì)算機(jī)只要支持這一個(gè)字符集,就能顯示所有的字符,再也不會(huì)有...
摘要:閑談系列不涉及具體的講解,只會(huì)勾勾畫畫一些自己認(rèn)為比較重要的特性。我們一般認(rèn)為用兩個(gè)字節(jié)位表示,并且完全囊括了字符集。將其轉(zhuǎn)換成進(jìn)制就是只是表示它們是碼。三的讀取和寫入相關(guān)重要的只有能夠讀寫,才能夠顯示其存在的價(jià)值。 原文地址:http://www.cnblogs.com/DeanCh... 在剛接觸Nodejs的時(shí)候,有些概念總讓學(xué)前端的我感到困惑(雖然大學(xué)的時(shí)候也是在搞后端,世界上...
摘要:受到這個(gè)的影響,中的字符操作函數(shù)某些情況無法返回正確的結(jié)果。的碼點(diǎn),還有另外一種表示方法,稱為進(jìn)制轉(zhuǎn)義序列。這與我們的認(rèn)知有點(diǎn)不同,我們通常認(rèn)為一個(gè)表情符號(hào)也是一個(gè)字符,長度為。而如果通過來判斷字符串長度顯然是不夠準(zhǔn)確的。 大家對(duì)上一篇文章中提到的UCS編碼可能比較陌生。殊不知這就是JavaScript采用的編碼方法。 既然Unicode已經(jīng)統(tǒng)一了天下,為什么JavaScript不采用...
摘要:導(dǎo)語本文源于微信游戲春節(jié)王者搖心愿活動(dòng)英雄語音祝福自定義輸入模塊開發(fā)過程,對(duì)踩過的前端字符編碼的坑進(jìn)行記錄總結(jié)。只規(guī)定了字符編碼,而并沒有規(guī)定具體的編碼方式。 導(dǎo)語 本文源于微信游戲春節(jié)王者搖心愿活動(dòng)英雄語音祝福自定義輸入模塊開發(fā)過程,對(duì)踩過的前端字符編碼的坑進(jìn)行記錄總結(jié)。 Unicode 字符 Unicode(中文:萬國碼、國際碼、統(tǒng)一碼、單一碼)是計(jì)算機(jī)科學(xué)領(lǐng)域里的一項(xiàng)業(yè)界標(biāo)準(zhǔn)。它...
showImg(https://segmentfault.com/img/remote/1460000018653055?w=900&h=500); 簡介 字符編碼、字符長度錯(cuò)誤、截取字符錯(cuò)誤、UTF8、Unicode 計(jì)算機(jī)重重底層之下都是由 0 和 1 組合,但是你知道他們是怎么一步步變成字符串的嘛?在我們現(xiàn)實(shí)生活中最常見的例子可以通過 wo 在新華字典中找到 我 這個(gè)字。同樣計(jì)算機(jī)通過 0 ...
閱讀 2532·2021-09-24 10:29
閱讀 3817·2021-09-22 15:46
閱讀 2584·2021-09-04 16:41
閱讀 2990·2019-08-30 15:53
閱讀 1271·2019-08-30 14:24
閱讀 3064·2019-08-30 13:19
閱讀 2181·2019-08-29 14:17
閱讀 3532·2019-08-29 12:55