摘要:盡管異步能提高系統(tǒng)吞吐量,但其并不能讓一個(gè)請(qǐng)求的等待時(shí)間下降,相反可能會(huì)增加等待時(shí)間。
假設(shè)某銀行只有10個(gè)職員。該銀行的業(yè)務(wù)流程分為以下4個(gè)步驟:
1) 顧客填申請(qǐng)表(5分鐘);
2) 職員審核(1分鐘);
3) 職員叫保安去金庫取錢(3分鐘);
4) 職員打印票據(jù),并將錢和票據(jù)返回給顧客(1分鐘)。
我們看看銀行不同的工作方式對(duì)其工作效率到底有何影響。
1 BIO方式
每來一個(gè)顧客,馬上由一位職員來接待處理,并且這個(gè)職員需要負(fù)責(zé)以上4個(gè)完整流程。當(dāng)超過10個(gè)顧客時(shí),剩余的顧客需要排隊(duì)等候。
我們算算這個(gè)銀行一個(gè)小時(shí)到底能處理多少顧客?一個(gè)職員處理一個(gè)顧客需要10分鐘(5+1+3+1)時(shí)間,一個(gè)小時(shí)(60分鐘)能處理6個(gè)顧客,一共10個(gè)職員,那就是只能處理60個(gè)顧客。
可以看到銀行職員的工作狀態(tài)并不飽和,比如在第1步,其實(shí)是處于等待中。
這種工作其實(shí)就是BIO,每次來一個(gè)請(qǐng)求(顧客),就分配到線程池中由一個(gè)線程(職員)處理,如果超出了線程池的最大上限(10個(gè)),就扔到隊(duì)列等待 。
2 NIO方式
如何提高銀行的吞吐量呢?
思路:分而治之,將任務(wù)拆分開來,由專門的人負(fù)責(zé)專門的任務(wù)。
具體來講,銀行專門指派一名職員A,A的工作就是每當(dāng)有顧客到銀行,他就遞上表格讓顧客填寫,每當(dāng)有顧客填好表后,A就將其隨機(jī)指派給剩余的9名職員完成后續(xù)步驟。
我們計(jì)算下這種工作方式下銀行一個(gè)小時(shí)到底能處理多少顧客?
假設(shè)顧客非常多,職員A的工作處于飽和中,他不斷的將填好表的顧客帶到柜臺(tái)處理,柜臺(tái)一個(gè)職員5分鐘能處理完一個(gè)顧客,一個(gè)小時(shí)9名職員能處理:9*(60/5)=108。
可見工作方式的轉(zhuǎn)變能帶來效率的極大提升。
這種工作方式其實(shí)就NIO的思路。下圖是非常經(jīng)典的NIO說明圖,mainReactor線程負(fù)責(zé)監(jiān)聽server socket,accept新連接,并將建立的socket分派給subReactor;subReactor可以是一個(gè)線程,也可以是線程池(一般可以設(shè)置為CPU核數(shù)),負(fù)責(zé)多路分離已連接的socket,讀寫網(wǎng)絡(luò)數(shù)據(jù),這里的讀寫網(wǎng)絡(luò)數(shù)據(jù)可類比顧客填表這一耗時(shí)動(dòng)作,對(duì)具體的業(yè)務(wù)處理功能,其扔給worker線程池完成。
可以看到典型NIO有三類線程,分別是mainReactor線程、subReactor線程、work線程。不同的線程干專業(yè)的事情,最終每個(gè)線程都沒空著,系統(tǒng)的吞吐量自然就上去了。
3 異步方式
第二種工作方式有沒有什么可以提高的地方呢?
仔細(xì)查看可發(fā)現(xiàn)第3步驟這3分鐘柜臺(tái)職員是在等待中度過的,那怎么能讓柜臺(tái)職員保持滿負(fù)荷呢?
還是分而治之的思路,指派1個(gè)職員B來專門負(fù)責(zé)第3步驟。每當(dāng)柜臺(tái)員工完成第2步時(shí),就通知職員B來負(fù)責(zé)與保安溝通取錢。這時(shí)候柜臺(tái)員工可以繼續(xù)處理下一個(gè)顧客。當(dāng)職員B拿到錢之后,他會(huì)怎么辦呢?他會(huì)通知顧客錢已經(jīng)到柜臺(tái)了,讓顧客重新排隊(duì)處理,當(dāng)柜臺(tái)職員再次服務(wù)該顧客時(shí),發(fā)現(xiàn)該顧客前3步已經(jīng)完成,直接執(zhí)行第4步即可。
我們可以算算通過這種方法,銀行的吞吐量能提高到多少。
假設(shè)職員B的工作非常飽和,柜臺(tái)一個(gè)職員現(xiàn)在2分鐘能處理完一個(gè)顧客,一個(gè)小時(shí)8名職員能處理:8*(60/2)=240。
在當(dāng)今web服務(wù)中,經(jīng)常需要通過RPC或者Http等方式調(diào)用第三方服務(wù),這里對(duì)應(yīng)的就是第3步,如果這步耗時(shí)較長,通過異步方式將能極大降低資源使用率。
jetty Continuations 就實(shí)現(xiàn)了上述異步方式(http://wiki.eclipse.org/Jetty...)。
NIO+異步的方式能讓少量的線程(資源)做大量的事情,這適用于很多應(yīng)用場景,比如代理服務(wù)、api服務(wù)、長連接服務(wù)等等,這些應(yīng)用如果用同步方式將耗費(fèi)大量機(jī)器資源。盡管NIO+異步能提高系統(tǒng)吞吐量,但其并不能讓一個(gè)請(qǐng)求的等待時(shí)間下降,相反可能會(huì)增加等待時(shí)間。
4 小結(jié)
總結(jié)就一句:“分而治之,將任務(wù)拆分開來,由專門的人負(fù)責(zé)專門的任務(wù)”,這不僅在計(jì)算機(jī)領(lǐng)域生效,在整個(gè)社會(huì)領(lǐng)域都生效。
文章版權(quán)歸作者所有,未經(jīng)允許請(qǐng)勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請(qǐng)注明本文地址:http://systransis.cn/yun/71734.html
摘要:并且作用域鏈也確定了在當(dāng)前上下文中查找標(biāo)識(shí)符后返回的值。為了具象化分析問題,我們可以假設(shè)作用域鏈?zhǔn)且粋€(gè)數(shù)組,數(shù)組成員有一系列變量對(duì)象組成。注意,所有作用域鏈的最末端都為全局變量對(duì)象。所以作用域作用域鏈都是在當(dāng)前運(yùn)行環(huán)境內(nèi)代碼執(zhí)行前就確定了。 什么是作用域(Scope)? 作用域產(chǎn)生于程序源代碼中定義變量的區(qū)域,在程序編碼階段就確定了。javascript 中分為全局作用域(Global...
摘要:網(wǎng)易跨境電商考拉海購在線筆試現(xiàn)場技術(shù)面面。如何看待校招面試招聘,對(duì)公司而言,是尋找勞動(dòng)力對(duì)員工而言,是尋找未來的同事。 如何準(zhǔn)備校招技術(shù)面試 標(biāo)簽 : 面試 [TOC] 2017 年互聯(lián)網(wǎng)校招已近尾聲,作為一個(gè)非 CS 專業(yè)的應(yīng)屆生,零 ACM 經(jīng)驗(yàn)、零期刊論文發(fā)表,我通過自己的努力和準(zhǔn)備,從找實(shí)習(xí)到校招一路運(yùn)氣不錯(cuò),面試全部通過,謹(jǐn)以此文記錄我的校招感悟。 寫在前面 寫作動(dòng)機(jī) ...
摘要:任何人或物聯(lián)網(wǎng)設(shè)備想發(fā)起交易,只需要引用其他兩個(gè)交易就可以了。只要好人的交易總數(shù)足夠多,它就是安全的。要知道,應(yīng)用場景是物聯(lián)網(wǎng)設(shè)備,物聯(lián)網(wǎng)設(shè)備跑真是天才的想法啊。不僅如此,這個(gè)電磁爐還能提高烹飪的安全系數(shù)。 鑒于有不少小伙伴反映,覺得區(qū)塊鏈技術(shù)圈亂象橫生,魚龍混雜,導(dǎo)致大家很難去辨識(shí)哪些是真正的技術(shù)。甚至有些人,打著說技術(shù)的名號(hào),其實(shí)自己本身都沒弄懂弄明白,只是懂個(gè)皮毛,就開始拿著各種...
閱讀 4430·2021-11-19 09:59
閱讀 3350·2021-10-12 10:12
閱讀 2653·2021-09-22 15:25
閱讀 3357·2019-08-30 15:55
閱讀 1202·2019-08-29 11:27
閱讀 1482·2019-08-28 18:06
閱讀 2762·2019-08-26 13:41
閱讀 2571·2019-08-26 13:41