摘要：線程之間的通信由內(nèi)存模型本文簡(jiǎn)稱為控制，決定一個(gè)線程對(duì)共享變量的寫入何時(shí)對(duì)另一個(gè)線程可見。為了保證內(nèi)存可見性，編譯器在生成指令序列的適當(dāng)位置會(huì)插入內(nèi)存屏障指令來(lái)禁止特定類型的處理器重排序。

在并發(fā)編程中，我們需要處理兩個(gè)關(guān)鍵問(wèn)題：線程之間如何通信及線程之間如何同步（這里的線程是指并發(fā)執(zhí)行的活動(dòng)實(shí)體）。通信是指線程之間以何種機(jī)制來(lái)交換信息。在命令式編程中，線程之間的通信機(jī)制有兩種：共享內(nèi)存和消息傳遞。

在共享內(nèi)存的并發(fā)模型里，線程之間共享程序的公共狀態(tài)，線程之間通過(guò)寫-讀內(nèi)存中的公共狀態(tài)來(lái)隱式進(jìn)行通信。在消息傳遞的并發(fā)模型里，線程之間沒(méi)有公共狀態(tài)，線程之間必須通過(guò)明確的發(fā)送消息來(lái)顯式進(jìn)行通信。

同步是指程序用于控制不同線程之間操作發(fā)生相對(duì)順序的機(jī)制。在共享內(nèi)存并發(fā)模型里，同步是顯式進(jìn)行的。程序員必須顯式指定某個(gè)方法或某段代碼需要在線程之間互斥執(zhí)行。在消息傳遞的并發(fā)模型里，由于消息的發(fā)送必須在消息的接收之前，因此同步是隱式進(jìn)行的。

Java的并發(fā)采用的是共享內(nèi)存模型，Java線程之間的通信總是隱式進(jìn)行，整個(gè)通信過(guò)程對(duì)程序員完全透明。如果編寫多線程程序的Java程序員不理解隱式進(jìn)行的線程之間通信的工作機(jī)制，很可能會(huì)遇到各種奇怪的內(nèi)存可見性問(wèn)題。

在java中，所有實(shí)例域、靜態(tài)域和數(shù)組元素存儲(chǔ)在堆內(nèi)存中，堆內(nèi)存在線程之間共享（本文使用“共享變量”這個(gè)術(shù)語(yǔ)代指實(shí)例域，靜態(tài)域和數(shù)組元素）。局部變量（Local variables），方法定義參數(shù)（java語(yǔ)言規(guī)范稱之為formal method parameters）和異常處理器參數(shù)（exception handler parameters）不會(huì)在線程之間共享，它們不會(huì)有內(nèi)存可見性問(wèn)題，也不受內(nèi)存模型的影響。

Java線程之間的通信由Java內(nèi)存模型（本文簡(jiǎn)稱為JMM）控制，JMM決定一個(gè)線程對(duì)共享變量的寫入何時(shí)對(duì)另一個(gè)線程可見。從抽象的角度來(lái)看，JMM定義了線程和主內(nèi)存之間的抽象關(guān)系：線程之間的共享變量存儲(chǔ)在主內(nèi)存（main memory）中，每個(gè)線程都有一個(gè)私有的本地內(nèi)存（local memory），本地內(nèi)存中存儲(chǔ)了該線程以讀/寫共享變量的副本。本地內(nèi)存是JMM的一個(gè)抽象概念，并不真實(shí)存在。它涵蓋了緩存，寫緩沖區(qū)，寄存器以及其他的硬件和編譯器優(yōu)化。Java內(nèi)存模型的抽象示意圖如下：

從上圖來(lái)看，線程A與線程B之間如要通信的話，必須要經(jīng)歷下面2個(gè)步驟：

首先，線程A把本地內(nèi)存A中更新過(guò)的共享變量刷新到主內(nèi)存中去。

然后，線程B到主內(nèi)存中去讀取線程A之前已更新過(guò)的共享變量。

下面通過(guò)示意圖來(lái)說(shuō)明這兩個(gè)步驟：

如上圖所示，本地內(nèi)存A和B有主內(nèi)存中共享變量x的副本。假設(shè)初始時(shí)，這三個(gè)內(nèi)存中的x值都為0。線程A在執(zhí)行時(shí)，把更新后的x值（假設(shè)值為1）臨時(shí)存放在自己的本地內(nèi)存A中。當(dāng)線程A和線程B需要通信時(shí)，線程A首先會(huì)把自己本地內(nèi)存中修改后的x值刷新到主內(nèi)存中，此時(shí)主內(nèi)存中的x值變?yōu)榱?。隨后，線程B到主內(nèi)存中去讀取線程A更新后的x值，此時(shí)線程B的本地內(nèi)存的x值也變?yōu)榱?。

從整體來(lái)看，這兩個(gè)步驟實(shí)質(zhì)上是線程A在向線程B發(fā)送消息，而且這個(gè)通信過(guò)程必須要經(jīng)過(guò)主內(nèi)存。JMM通過(guò)控制主內(nèi)存與每個(gè)線程的本地內(nèi)存之間的交互，來(lái)為java程序員提供內(nèi)存可見性保證。

在執(zhí)行程序時(shí)為了提高性能，編譯器和處理器常常會(huì)對(duì)指令做重排序。重排序分三種類型：

編譯器優(yōu)化的重排序。編譯器在不改變單線程程序語(yǔ)義的前提下，可以重新安排語(yǔ)句的執(zhí)行順序。

指令級(jí)并行的重排序。現(xiàn)代處理器采用了指令級(jí)并行技術(shù)（Instruction-Level Parallelism， ILP）來(lái)將多條指令重疊執(zhí)行。如果不存在數(shù)據(jù)依賴性，處理器可以改變語(yǔ)句對(duì)應(yīng)機(jī)器指令的執(zhí)行順序。

內(nèi)存系統(tǒng)的重排序。由于處理器使用緩存和讀/寫緩沖區(qū)，這使得加載和存儲(chǔ)操作看上去可能是在亂序執(zhí)行。

從java源代碼到最終實(shí)際執(zhí)行的指令序列，會(huì)分別經(jīng)歷下面三種重排序：

上述的1屬于編譯器重排序，2和3屬于處理器重排序。這些重排序都可能會(huì)導(dǎo)致多線程程序出現(xiàn)內(nèi)存可見性問(wèn)題。對(duì)于編譯器，JMM的編譯器重排序規(guī)則會(huì)禁止特定類型的編譯器重排序（不是所有的編譯器重排序都要禁止）。對(duì)于處理器重排序，JMM的處理器重排序規(guī)則會(huì)要求java編譯器在生成指令序列時(shí)，插入特定類型的內(nèi)存屏障（memory barriers，intel稱之為memory fence）指令，通過(guò)內(nèi)存屏障指令來(lái)禁止特定類型的處理器重排序（不是所有的處理器重排序都要禁止）。

JMM屬于語(yǔ)言級(jí)的內(nèi)存模型，它確保在不同的編譯器和不同的處理器平臺(tái)之上，通過(guò)禁止特定類型的編譯器重排序和處理器重排序，為程序員提供一致的內(nèi)存可見性保證。

現(xiàn)代的處理器使用寫緩沖區(qū)來(lái)臨時(shí)保存向內(nèi)存寫入的數(shù)據(jù)。寫緩沖區(qū)可以保證指令流水線持續(xù)運(yùn)行，它可以避免由于處理器停頓下來(lái)等待向內(nèi)存寫入數(shù)據(jù)而產(chǎn)生的延遲。同時(shí)，通過(guò)以批處理的方式刷新寫緩沖區(qū)，以及合并寫緩沖區(qū)中對(duì)同一內(nèi)存地址的多次寫，可以減少對(duì)內(nèi)存總線的占用。雖然寫緩沖區(qū)有這么多好處，但每個(gè)處理器上的寫緩沖區(qū)，僅僅對(duì)它所在的處理器可見。這個(gè)特性會(huì)對(duì)內(nèi)存操作的執(zhí)行順序產(chǎn)生重要的影響：處理器對(duì)內(nèi)存的讀/寫操作的執(zhí)行順序，不一定與內(nèi)存實(shí)際發(fā)生的讀/寫操作順序一致！為了具體說(shuō)明，請(qǐng)看下面示例：

Processor A

Processor B

a = 1; //A1
x = b; //A2

b = 2; //B1
y = a; //B2

初始狀態(tài)：a = b = 0
處理器允許執(zhí)行后得到結(jié)果：x = y = 0

假設(shè)處理器A和處理器B按程序的順序并行執(zhí)行內(nèi)存訪問(wèn)，最終卻可能得到x = y = 0的結(jié)果。具體的原因如下圖所示：

這里處理器A和處理器B可以同時(shí)把共享變量寫入自己的寫緩沖區(qū)（A1，B1），然后從內(nèi)存中讀取另一個(gè)共享變量（A2，B2），最后才把自己寫緩存區(qū)中保存的臟數(shù)據(jù)刷新到內(nèi)存中（A3，B3）。當(dāng)以這種時(shí)序執(zhí)行時(shí)，程序就可以得到x = y = 0的結(jié)果。

從內(nèi)存操作實(shí)際發(fā)生的順序來(lái)看，直到處理器A執(zhí)行A3來(lái)刷新自己的寫緩存區(qū)，寫操作A1才算真正執(zhí)行了。雖然處理器A執(zhí)行內(nèi)存操作的順序?yàn)椋?b>A1->A2，但內(nèi)存操作實(shí)際發(fā)生的順序卻是：A2->A1。此時(shí)，處理器A的內(nèi)存操作順序被重排序了（處理器B的情況和處理器A一樣，這里就不贅述了）。

這里的關(guān)鍵是，由于寫緩沖區(qū)僅對(duì)自己的處理器可見，它會(huì)導(dǎo)致處理器執(zhí)行內(nèi)存操作的順序可能會(huì)與內(nèi)存實(shí)際的操作執(zhí)行順序不一致。由于現(xiàn)代的處理器都會(huì)使用寫緩沖區(qū)，因此現(xiàn)代的處理器都會(huì)允許對(duì)寫-讀操作重排序。

下面是常見處理器允許的重排序類型的列表：

上表單元格中的“N”表示處理器不允許兩個(gè)操作重排序，“Y”表示允許重排序。

從上表我們可以看出：常見的處理器都允許Store-Load重排序；常見的處理器都不允許對(duì)存在數(shù)據(jù)依賴的操作做重排序。sparc-TSO和x86擁有相對(duì)較強(qiáng)的處理器內(nèi)存模型，它們僅允許對(duì)寫-讀操作做重排序（因?yàn)樗鼈兌际褂昧藢懢彌_區(qū)）。

※注1：sparc-TSO是指以TSO(Total Store Order)內(nèi)存模型運(yùn)行時(shí)，sparc處理器的特性。
※注2：上表中的x86包括x64及AMD64。
※注3：由于ARM處理器的內(nèi)存模型與PowerPC處理器的內(nèi)存模型非常類似，本文將忽略它。
※注4：數(shù)據(jù)依賴性后文會(huì)專門說(shuō)明。

為了保證內(nèi)存可見性，java編譯器在生成指令序列的適當(dāng)位置會(huì)插入內(nèi)存屏障指令來(lái)禁止特定類型的處理器重排序。JMM把內(nèi)存屏障指令分為下列四類：

| LoadLoad Barriers | Load1; LoadLoad; Load2 |確保Load1數(shù)據(jù)的裝載，之前于Load2及所有后續(xù)裝載指令的裝載。|
| StoreStore Barriers | Store1; StoreStore; Store2 |確保Store1數(shù)據(jù)對(duì)其他處理器可見（刷新到內(nèi)存），之前于Store2及所有后續(xù)存儲(chǔ)指令的存儲(chǔ)。|
| LoadStore Barriers | Load1; LoadStore; Store2 |確保Load1數(shù)據(jù)裝載，之前于Store2及所有后續(xù)的存儲(chǔ)指令刷新到內(nèi)存。|
| StoreLoad Barriers | Store1; StoreLoad; Load2 |確保Store1數(shù)據(jù)對(duì)其他處理器變得可見（指刷新到內(nèi)存），之前于Load2及所有后續(xù)裝載指令的裝載。StoreLoad Barriers會(huì)使該屏障之前的所有內(nèi)存訪問(wèn)指令（存儲(chǔ)和裝載指令）完成之后，才執(zhí)行該屏障之后的內(nèi)存訪問(wèn)指令。|

StoreLoad Barriers是一個(gè)“全能型”的屏障，它同時(shí)具有其他三個(gè)屏障的效果。現(xiàn)代的多處理器大都支持該屏障（其他類型的屏障不一定被所有處理器支持）。執(zhí)行該屏障開銷會(huì)很昂貴，因?yàn)楫?dāng)前處理器通常要把寫緩沖區(qū)中的數(shù)據(jù)全部刷新到內(nèi)存中（buffer fully flush）。

從JDK5開始，java使用新的JSR -133內(nèi)存模型（本文除非特別說(shuō)明，針對(duì)的都是JSR- 133內(nèi)存模型）。JSR-133使用happens-before的概念來(lái)闡述操作之間的內(nèi)存可見性。在JMM中，如果一個(gè)操作執(zhí)行的結(jié)果需要對(duì)另一個(gè)操作可見，那么這兩個(gè)操作之間必須要存在happens-before關(guān)系。這里提到的兩個(gè)操作既可以是在一個(gè)線程之內(nèi)，也可以是在不同線程之間。

與程序員密切相關(guān)的happens-before規(guī)則如下：

程序順序規(guī)則：一個(gè)線程中的每個(gè)操作，happens- before 于該線程中的任意后續(xù)操作。

監(jiān)視器鎖規(guī)則：對(duì)一個(gè)監(jiān)視器鎖的解鎖，happens- before 于隨后對(duì)這個(gè)監(jiān)視器鎖的加鎖。

volatile變量規(guī)則：對(duì)一個(gè)volatile域的寫，happens- before 于任意后續(xù)對(duì)這個(gè)volatile域的讀。

傳遞性：如果A happens- before B，且B happens- before C，那么A happens- before C。

注意，兩個(gè)操作之間具有happens-before關(guān)系，并不意味著前一個(gè)操作必須要在后一個(gè)操作之前執(zhí)行！happens-before僅僅要求前一個(gè)操作（執(zhí)行的結(jié)果）對(duì)后一個(gè)操作可見，且前一個(gè)操作按順序排在第二個(gè)操作之前（the first is visible to and ordered before the second）。happens- before的定義很微妙，后文會(huì)具體說(shuō)明happens-before為什么要這么定義。

happens-before與JMM的關(guān)系如下圖所示：

如上圖所示，一個(gè)happens-before規(guī)則通常對(duì)應(yīng)于多個(gè)編譯器和處理器重排序規(guī)則。對(duì)于java程序員來(lái)說(shuō)，happens-before規(guī)則簡(jiǎn)單易懂，它避免java程序員為了理解JMM提供的內(nèi)存可見性保證而去學(xué)習(xí)復(fù)雜的重排序規(guī)則以及這些規(guī)則的具體實(shí)現(xiàn)。

Programming Language Pragmatics, Third Edition

The Java Language Specification, Third Edition

JSR-133: Java Memory Model and Thread Specification

Java theory and practice: Fixing the Java Memory Model, Part 2

Understanding POWER Multiprocessors

Concurrent Programming on Windows

The Art of Multiprocessor Programming

Intel? 64 and IA-32 ArchitecturesvSoftware Developer’s Manual Volume 3A: System Programming Guide, Part 1

The JSR-133 Cookbook for Compiler Writers

程曉明，Java軟件工程師，系統(tǒng)分析師、信息項(xiàng)目管理師。專注于并發(fā)編程。個(gè)人郵箱：[email protected]。

請(qǐng)看下篇 深入理解Java內(nèi)存模型（二）——重排序

via ifeve