漏桶算法與令牌桶算法限流

dreamans 發(fā)布于2019-08-16 18:38 / 1342人閱讀

摘要：一漏桶算法原理漏桶算法的原理可以這么理解，就是有一個(gè)容量有限的桶，每個(gè)請(qǐng)求想象成滴入桶中的一滴水，但是這個(gè)桶中的水是以恒定的速率從桶的底部流出，假如說(shuō)每秒鐘只流出一滴水，但是每秒鐘滴入滴水，所以當(dāng)請(qǐng)求過(guò)多，超過(guò)桶容量的限制時(shí)，則直接溢出，拋

一、漏桶算法

1、原理

漏桶算法的原理可以這么理解，就是有一個(gè)容量有限的桶，每個(gè)請(qǐng)求想象成滴入桶中的一滴水，但是這個(gè)桶中的水是以恒定的速率從桶的底部流出，假如說(shuō)每秒鐘只流出一滴水，但是每秒鐘滴入10滴水，所以當(dāng)請(qǐng)求過(guò)多，超過(guò)桶容量的限制時(shí)，則直接溢出，拋棄請(qǐng)求

2.代碼實(shí)現(xiàn)思路

1）代碼實(shí)現(xiàn)可以這么理解，有一個(gè)固定容量的ArrayBlockingQueue,每次請(qǐng)求過(guò)來(lái)時(shí)，也就是向這個(gè)桶中，放入當(dāng)前線程，當(dāng)ArrayBlockingQueue滿的時(shí)候，則直接拒絕再向queue中放入請(qǐng)求，另外有一個(gè)循環(huán)以固定的速率從queue中讀取數(shù)據(jù)，當(dāng)讀取到的線程與當(dāng)前線程相等時(shí)，這時(shí)會(huì)釋放該請(qǐng)求，令其繼續(xù)執(zhí)行，否則直到等到當(dāng)前線程從桶中移出時(shí)，這種方式有可能會(huì)導(dǎo)致后面進(jìn)入的請(qǐng)求，等待很長(zhǎng)時(shí)間2）對(duì)于等待時(shí)間過(guò)長(zhǎng)問(wèn)題，可以預(yù)估當(dāng)前線程需要等待多長(zhǎng)時(shí)間，如果等待時(shí)間超過(guò)出入的超時(shí)時(shí)間，直接reutrn false，否則繼續(xù)等待，直到從桶中取出當(dāng)前線程，接著return true

云服務(wù)器 GPU云服務(wù)器 webrtc漏桶算法桶排序算法令牌桶最新函數(shù)與算法

文章版權(quán)歸作者所有，未經(jīng)允許請(qǐng)勿轉(zhuǎn)載,若此文章存在違規(guī)行為，您可以聯(lián)系管理員刪除。

轉(zhuǎn)載請(qǐng)注明本文地址：http://systransis.cn/yun/75494.html

相關(guān)文章

限流器及Guava實(shí)現(xiàn)分析

摘要：計(jì)數(shù)限流算法無(wú)論固定窗口還是滑動(dòng)窗口核心均是對(duì)請(qǐng)求進(jìn)行計(jì)數(shù)，區(qū)別僅僅在于對(duì)于計(jì)數(shù)時(shí)間區(qū)間的處理。令牌桶限流實(shí)現(xiàn)原理令牌桶限流的實(shí)現(xiàn)原理在有詳細(xì)說(shuō)明。因此由此為入口進(jìn)行分析。目前可返回的實(shí)現(xiàn)子類(lèi)包括及兩種，具體不同下文詳細(xì)分析。限流限流一詞常用于計(jì)算機(jī)網(wǎng)絡(luò)之中，定義如下： In computer networks, rate limiting is used to control t...

xcc3641 2019-08-19 11:05 評(píng)論0 收藏0
接口限流算法：漏桶算法&令牌桶算法

摘要：令牌桶算法漏桶算法漏桶漏桶的出水速度是恒定的，那么意味著如果瞬時(shí)大流量的話，將有大部分請(qǐng)求被丟棄掉也就是所謂的溢出。工作中對(duì)外提供的API 接口設(shè)計(jì)都要考慮限流，如果不考慮限流，會(huì)成系統(tǒng)的連鎖反應(yīng)，輕者響應(yīng)緩慢，重者系統(tǒng)宕機(jī)，整個(gè)業(yè)務(wù)線崩潰，如何應(yīng)對(duì)這種情況呢，我們可以對(duì)請(qǐng)求進(jìn)行引流或者直接拒絕等操作，保持系統(tǒng)的可用性和穩(wěn)定性，防止因流量暴增而導(dǎo)致的系統(tǒng)運(yùn)行緩慢或宕機(jī)。在開(kāi)發(fā)高并發(fā)...

dendoink 2019-08-19 10:55 評(píng)論0 收藏0
接口限流的常用算法匯總

摘要：接口限流的常用算法計(jì)數(shù)器法計(jì)數(shù)器法是限流算法里最簡(jiǎn)單也是最容易實(shí)現(xiàn)的一種算法。由此可見(jiàn)，當(dāng)滑動(dòng)窗口的格子劃分的越多，那么滑動(dòng)窗口的滾動(dòng)就越平滑，限流的統(tǒng)計(jì)就會(huì)越精確。漏桶算法漏桶算法，又稱(chēng)。接口限流什么是接口限流那么什么是限流呢？顧名思義，限流就是限制流量，包括并發(fā)的流量和一定時(shí)間內(nèi)的總流量，就像你寬帶包了1個(gè)G的流量，用完了就沒(méi)了，所以控制你的使用頻率和單次使用的總消耗。通過(guò)限...

gyl_coder 2019-06-27 15:37 評(píng)論0 收藏0
[登錄那些事] 郵件發(fā)送，限流，漏桶與令牌桶

摘要：關(guān)于如何限速，有兩個(gè)比較出名的算法，漏桶算法與令牌桶算法，這里對(duì)其簡(jiǎn)單介紹一下，最后再實(shí)踐在我發(fā)郵件的中以下是發(fā)送郵件的，已限制為一分鐘兩次，你可以通過(guò)修改進(jìn)行試驗(yàn)。前段時(shí)間，我使用了 jwt 來(lái)實(shí)現(xiàn)郵箱驗(yàn)證碼的校驗(yàn)與用戶(hù)認(rèn)證與登錄，還特別寫(xiě)了一篇文章作為總結(jié)。在那篇文章中，提到了一個(gè)點(diǎn)，如何限速。在短信驗(yàn)證碼和郵箱驗(yàn)證碼，如果不限速，被惡意攻擊造成大量的 QPS，不僅拖垮了服務(wù)...

wpw 2019-08-23 17:18 評(píng)論0 收藏0
Redis + Lua 接口限流最佳實(shí)踐策略

摘要：算法簡(jiǎn)介和示例說(shuō)明業(yè)界比較流行的限流算法有漏桶算法和令牌桶算法。判斷接口是否限流其實(shí)就是看能不能從令牌桶中取出令牌，方法如下判斷接口是否被限流更新令牌桶狀態(tài)到了這里，相信讀者已經(jīng)對(duì)令牌桶算法有了一個(gè)比較清晰的認(rèn)識(shí)了。 1.應(yīng)用場(chǎng)景我們開(kāi)發(fā)的接口服務(wù)系統(tǒng)很多都具有抗高并發(fā)，保證高可用的特性。現(xiàn)實(shí)條件下，隨著流量的不斷增加，在經(jīng)費(fèi)、硬件和資源受限的情況下，我們就需要為我們的系統(tǒng)服務(wù)制定有...

Julylovin 2019-07-01 14:03 評(píng)論0 收藏0
8分鐘視頻看懂限流算法

摘要：視頻介紹限流算法，分析漏桶算法和令牌算法的應(yīng)用場(chǎng)景，算法原理和算法實(shí)現(xiàn)方法視頻在這里分鐘看懂限流算法你好，我是好剛，這一講我們來(lái)了解限流算法。這里限流的常用算法有漏桶算法和令牌桶算法。所以令牌桶算法的特點(diǎn)是允許突發(fā)流量。視頻介紹限流算法，分析漏桶算法和令牌算法的應(yīng)用場(chǎng)景，算法原理和算法實(shí)現(xiàn)方法【視頻在這里】 8分鐘看懂限流算法你好，我是好剛，這一講我們來(lái)了解限流算法 (Rate ...

MAX_zuo 2019-07-01 10:16 評(píng)論0 收藏0