成人国产在线小视频_日韩寡妇人妻调教在线播放_色成人www永久在线观看_2018国产精品久久_亚洲欧美高清在线30p_亚洲少妇综合一区_黄色在线播放国产_亚洲另类技巧小说校园_国产主播xx日韩_a级毛片在线免费

資訊專欄INFORMATION COLUMN

如何使用數(shù)組實現(xiàn)滑動窗口

不知名網(wǎng)友 / 2885人閱讀

摘要:理解數(shù)組實現(xiàn)的滑動窗口,看下邊這個圖就可以了。第秒,開始計數(shù),此時數(shù)組內(nèi)開始存入計數(shù)周期,保存在數(shù)組第個位置,表示這是當(dāng)前滑動窗口內(nèi)的第個計數(shù)周期。

FireflySoft.RateLimit之前的版本中,進(jìn)程內(nèi)滑動窗口的實現(xiàn)是基于MemoryCache做的,雖然能夠正確的實現(xiàn)滑動窗口的算法邏輯,但是性能比較差,其吞吐量只有其它算法的1/4。性能為何如此之差呢?

滑動窗口的原理

我們先來看下滑動窗口的原理,這里給一張圖:

?

如上圖所示:

  • 滑動窗口的時間跨度是5秒,每個計數(shù)周期的時間跨度是1秒,所以此處的滑動窗口包含5個計數(shù)周期。
  • 隨著時間的前進(jìn),滑動窗口包含的計數(shù)周期會以秒為單位向前移動,但始終是包含5個計數(shù)周期。
  • 判斷是否限流時,需要將當(dāng)前滑動窗口包含的5個計數(shù)周期的計數(shù)值加起來。
  • 相比固定窗口計數(shù)器算法,滑動窗口允許一些突發(fā)流量,如上圖中的第7個計數(shù)周期。

MemoryCache實現(xiàn)的滑動窗口

使用MemoryCache時,存儲結(jié)構(gòu)如下:

每個計數(shù)周期都作為一個緩存項目添加到MemoryCache中,緩存Key為計數(shù)周期的絕對時間,緩存值為當(dāng)前周期的計數(shù)值,緩存過期時間為一個大于滑動窗口時間跨度的相對過期時間,這樣不用自己編碼刪除過期的計數(shù)周期,而滑動窗口內(nèi)的計數(shù)周期都能正常保留。

另外為了獲得滑動窗口內(nèi)部每個計數(shù)周期對應(yīng)的緩存項,這里還額外緩存了第一個計數(shù)周期的緩存Key(即對應(yīng)的絕對時間),這樣就可以根據(jù)當(dāng)前時間和計數(shù)周期的時間跨度計算出當(dāng)前周期的緩存Key,從而可以再逐步向前推出4個計數(shù)周期的緩存Key。

如有興趣,具體實現(xiàn)可以點擊這里進(jìn)入Github查看。

這個實現(xiàn)有兩個問題:

  • 每個計數(shù)周期都是一個多帶帶的緩存項,隨著時間的前進(jìn)需要不斷申請內(nèi)存,在堆上申請內(nèi)存是一個相對耗時的操作。
  • 每次計數(shù)都要先計算出滑動窗口內(nèi)當(dāng)前的所有計數(shù)周期,然后再把它們一個個取出來,求計數(shù)值的和,計算量較多。

這應(yīng)該就是這個算法實現(xiàn)性能比較差的主要原因。

基于數(shù)組的滑動窗口

為什么要使用數(shù)組來實現(xiàn)滑動窗口呢?首先當(dāng)然是數(shù)組可以實現(xiàn)滑動窗口,其次它可以解決MemoryCache實現(xiàn)中的兩個問題,一是數(shù)組創(chuàng)建時就申請了固定大小的內(nèi)存,后續(xù)計數(shù)都使用這塊內(nèi)存,不用再新申請;二是計算滑動窗口內(nèi)的計數(shù)值只要把數(shù)組中每個元素的值加起來就行了,不用再一個個的尋找它們。

學(xué)過操作系統(tǒng)的同學(xué)可能比較了解,在操作系統(tǒng)中很多地方使用了環(huán)形隊列,而環(huán)形隊列是用數(shù)組實現(xiàn)的;滑動窗口可以理解為環(huán)形隊列的一個特例,每次窗口滑動時,隊列彈出一個,然后再進(jìn)入一個。

理解數(shù)組實現(xiàn)的滑動窗口,看下邊這個圖就可以了。

假設(shè)滑動窗口的時間跨度還是5s,計數(shù)周期的時間跨度是1秒。

首先我們初始化一個容量為5的空數(shù)組,此時還沒有開始計數(shù),所以只是一個空數(shù)組。

  • 第1秒,開始計數(shù),此時數(shù)組內(nèi)開始存入計數(shù)周期,保存在數(shù)組第1個位置,(1)表示這是當(dāng)前滑動窗口內(nèi)的第1個計數(shù)周期。如果我們把滑動窗口看成一個環(huán)形隊列,那么隊列的頭尾此時都是數(shù)組的第1個元素。
  • 第2秒,數(shù)組又存入一個新的計數(shù)周期,保存在數(shù)組第2個位置,(2)表示這是當(dāng)前滑動窗口內(nèi)的第2個計數(shù)周期;此時隊列的尾部來到了數(shù)組的第2個元素。
  • 以此類推,時間來到第5秒,此時數(shù)組內(nèi)的每個位置都會存入一個計數(shù)周期,滑動窗口內(nèi)的計數(shù)周期也達(dá)到了5個;隊列的尾部也來到了數(shù)組的最后一個元素。
  • 第6秒,數(shù)組已經(jīng)放不下第6個元素了,因為滑動窗口只需要最近的5個元素,所以我們可以丟棄數(shù)組中第1個元素中保存的計數(shù)周期,重新創(chuàng)建一個計數(shù)周期放進(jìn)去。從滑動窗口的角度看,丟棄了一個計數(shù)周期,新創(chuàng)建的這個計數(shù)周期還是滑動窗口的第5個計數(shù)周期,原來的第(2)、(3)、(4)、(5)就變成了(1)、(2)、(3)、(4)。如果從循環(huán)隊列的角度看,則隊列頭部彈出了一個元素,然后隊列尾部增加了一個元素。
  • 以此類推,時間來到第7秒,代表滑動窗口的循環(huán)隊列又彈出了一個過期的計數(shù)周期,然后插入新的計數(shù)周期。
  • 第9秒也是如此,只不過第9秒結(jié)束后,數(shù)組的存儲結(jié)構(gòu)又回到了第5秒時的樣子,此時數(shù)組內(nèi)的每個位置都有一個計數(shù)周期,這些計數(shù)周期在滑動窗口中的位置編號和數(shù)組中的位置編號完全相同。

然后隨著時間的前進(jìn),滑動窗口的處理就是循環(huán)第5秒至第9秒之間的處理邏輯。

再說計數(shù)的處理:

  • 時間來到每一秒后, 首先會創(chuàng)建這一秒的計數(shù)周期,保存到數(shù)組中,在隨后的這一秒的請求中,繼續(xù)使用原來的計數(shù)周期,并累加計數(shù)值,直到下一秒到來。
  • 每次計算滑動窗口內(nèi)的計數(shù)值時,因為數(shù)組的容量和滑動窗口的計數(shù)周期數(shù)保持一致,所以就是簡單的把數(shù)組中每個小計數(shù)周期的計數(shù)值加起來,就可以了。

這里摘抄一些代碼,讓大家感受更深入一些:

// 幾個重要變量:保存計數(shù)周期的數(shù)組、代表滑動窗口的循環(huán)隊列的頭和尾SlidingWindowPeriod[] _queue;int _head = 0;int _tail = 0;// 省略很多代碼....// 創(chuàng)建一個計數(shù)周期,這里是一個結(jié)構(gòu)體var newPeriod = new SlidingWindowPeriod(){    // 為了方便確定當(dāng)前請求的計數(shù)周期,計數(shù)周期的Key是一個時間刻度,    Key = lastPeriod.Key + _statPeriodMilliseconds * i,    CountValue = 0};// 循環(huán)隊列尾加1// 如果超出了數(shù)組的索引范圍,則代表需要替換數(shù)組中第1個位置的計數(shù)周期,然后隊列尾來到數(shù)組中第1位_tail++;if (_tail == _length) _tail = 0;// 如果隊列尾在數(shù)組中的索引小于等于隊列頭的索引,則隊列頭需要彈出數(shù)據(jù),隊列頭的位置向后移動1位if (_tail <= _head){    _head++;    // 如果隊列頭的索引會超出索引范圍,則隊列頭歸位到數(shù)組中的第1位    if (_head == _length) _head = 0;}// 將新的計數(shù)周期寫入隊列尾所在的數(shù)組位置_queue[_tail] = newPeriod;

這里邊還會有一些特殊的處理,比如滑動窗口只包含一個小計數(shù)周期,再比如請求時間的前進(jìn)是不均勻的(可能會跳過數(shù)個計數(shù)周期的時間跨度),都需要仔細(xì)考慮。


?

好了,以上就是本文的主要內(nèi)容。

如果想了解完整的實現(xiàn),查看全部代碼,請點擊進(jìn)入GitHub。

文章版權(quán)歸作者所有,未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。

轉(zhuǎn)載請注明本文地址:http://systransis.cn/yun/125674.html

相關(guān)文章

  • LeetCode 之 JavaScript 解答第239題 —— 滑動窗口最大值(Sliding W

    摘要:你只可以看到在滑動窗口內(nèi)的數(shù)字。滑動窗口每次只向右移動一位。返回滑動窗口最大值。算法思路暴力破解法用兩個指針,分別指向窗口的起始位置和終止位置,然后遍歷窗口中的數(shù)據(jù),求出最大值向前移動兩個指針,然后操作,直到遍歷數(shù)據(jù)完成位置。 Time:2019/4/16Title: Sliding Window MaximumDifficulty: DifficultyAuthor: 小鹿 題目...

    spacewander 評論0 收藏0
  • 一文講透自適應(yīng)熔斷的原理和實現(xiàn)

    摘要:代碼實現(xiàn)代碼實現(xiàn)接下來思考一個熔斷器如何實現(xiàn)。同時熔斷器的狀態(tài)也需要依靠指標(biāo)統(tǒng)計來實現(xiàn)可觀測性,我們實現(xiàn)任何系統(tǒng)第一步需要考慮就是可觀測性,不然系統(tǒng)就是一個黑盒??赡苁牵蹟嗥餍枰獙崟r收集此數(shù)據(jù)。熔斷方法,自動上報執(zhí)行結(jié)果自動擋。。。為什么需要熔斷微服務(wù)集群中,每個應(yīng)用基本都會依賴一定數(shù)量的外部服務(wù)。有可能隨時都會遇到網(wǎng)絡(luò)連接緩慢,超時,依賴服務(wù)過載,服務(wù)不可用的情況,在高并發(fā)場景下如果此時...

    muddyway 評論0 收藏0
  • 數(shù)據(jù)結(jié)構(gòu)與算法隨筆之優(yōu)先隊列-求滑動窗口最大值(三)

    摘要:你只可以看到在滑動窗口內(nèi)的數(shù)字?;瑒哟翱诿看沃幌蛴乙苿右晃?。返回滑動窗口最大值。 這篇文章我們來看一道題目求滑動窗口最大值問題(在leetcode上的地址:滑動窗口最大值) 題目描述 給定一個長度為N的數(shù)組 nums,有一個大小為 k 的滑動窗口從數(shù)組的最左側(cè)移動到數(shù)組的最右側(cè)。你只可以看到在滑動窗口 k 內(nèi)的數(shù)字?;瑒哟翱诿看沃幌蛴乙苿右晃?。返回滑動窗口最大值。 示例: 輸入: nu...

    Joyven 評論0 收藏0
  • 限流器及Guava實現(xiàn)分析

    摘要:計數(shù)限流算法無論固定窗口還是滑動窗口核心均是對請求進(jìn)行計數(shù),區(qū)別僅僅在于對于計數(shù)時間區(qū)間的處理。令牌桶限流實現(xiàn)原理令牌桶限流的實現(xiàn)原理在有詳細(xì)說明。因此由此為入口進(jìn)行分析。目前可返回的實現(xiàn)子類包括及兩種,具體不同下文詳細(xì)分析。 限流 限流一詞常用于計算機(jī)網(wǎng)絡(luò)之中,定義如下: In computer networks, rate limiting is used to control t...

    xcc3641 評論0 收藏0
  • 分布式系統(tǒng)關(guān)注點——想通關(guān)「限流」?只要這一篇

    摘要:之前有了解到哥的一部分讀者們沒有充分搞清楚限流和熔斷的關(guān)系。后者表示系統(tǒng)在同一時刻能處理的最大請求數(shù)量,比如次的并發(fā)。后續(xù)限流策略需要設(shè)定的具體標(biāo)準(zhǔn)數(shù)值就是從這些指標(biāo)中來的。限流閾值不繼續(xù)處理請求。 如果這是第二次看到我的文章,歡迎掃描文末二維碼訂閱我喲~本文長度為2869字,建議閱讀8分鐘。 可能你在網(wǎng)上看過不少「限流」相關(guān)的文章,但是z哥的這篇可能是最全面,最深入淺出的一篇了(容我...

    CollinPeng 評論0 收藏0

發(fā)表評論

0條評論

最新活動
閱讀需要支付1元查看
<