資訊專欄INFORMATION COLUMN
摘要：但實際情況是緩存是大型網(wǎng)站的標配。以上分析告訴我們緩存架構(gòu)要滿足冷熱分離的特征不滿足，因為冷數(shù)據(jù)可能擠走熱數(shù)據(jù)。另外，眾所周知，緩存架構(gòu)還要滿足讀寫分離的特征也不滿足，因為寫操作會爭搶讀操作的資源。這種風格需要緩存系統(tǒng)的支持。
問題背景
略談服務端緩存設計 一文說到緩存不是必須的，因為數(shù)據(jù)庫本身就利用了內(nèi)存。但實際情況是緩存是大型網(wǎng)站的標配。
雖然經(jīng)驗顯示RDBMS最快時只需0~1ms就能響應，不遜于專門的緩存，但是當壓力增大時，性能的下降也是飛快的。隨著業(yè)務的逐漸復雜、開發(fā)團隊的逐漸擴大，難以全面優(yōu)化所有的SQL，數(shù)據(jù)庫內(nèi)存的命中率難免下降。
數(shù)據(jù)庫的連接數(shù)是有限的、磁盤的并發(fā)能力也很差，因此當訪問量增大或數(shù)據(jù)庫內(nèi)存命中率下降，平均響應速度會陡然下降；更糟的是，某些查詢導致大量的冷數(shù)據(jù)換入并占用數(shù)據(jù)庫內(nèi)存(例如全表掃描)，真正最需要的熱數(shù)據(jù)暫時被擋在內(nèi)存外，等到1~100ms(或更久)之后才能重新被讀入數(shù)據(jù)庫內(nèi)存，到這種時候，壓力可能爆棚了。
MySQL的buffer pool hit rate指標統(tǒng)計了命中率。
MySQL有類似于分代LRU的機制，按這個鏈接調(diào)優(yōu)能有所緩解。
以上分析告訴我們：緩存架構(gòu)要滿足冷熱分離的特征——RDBMS不滿足，因為冷數(shù)據(jù)可能擠走熱數(shù)據(jù)。
另外，眾所周知，緩存架構(gòu)還要滿足讀寫分離的特征——RDBMS也不滿足，因為寫操作會爭搶讀操作的資源。
鑒于這些局限性，RDBMS終歸還是頂不住，緩存成為大型網(wǎng)站的標配就是順理成章的了。
方案選擇略談服務端緩存設計 一文還比較了本地緩存和分布式緩存，首推分布式緩存。那么就要選擇一款緩存系統(tǒng)。而且強烈建議預先考慮水平擴展，如果先用了單機方案，之后很難不關(guān)機就在線遷移到基于sharding的集群方案。
緩存系統(tǒng)的選擇，我隨手列一些典型方案(沒有每個都用過)，分成三系：
Memcached系：Twemproxy(手動rebalance)，Couchbase
Redis系：Twemproxy(手動rebalance)，Codis，官方的Redis Cluster
Java系：Apache Ignite(支持多種語言，兼容Memcached API)，基礎性能低于前兩系，但支持SQL查詢、事務和豐富的數(shù)據(jù)結(jié)構(gòu)，還能遠程執(zhí)行代碼、推送事件通知、對接本地緩存/數(shù)據(jù)庫/HDFS等。同類產(chǎn)品有Hazelcast、Gemfire。
應用代碼怎么寫？通常是：讀操作先get緩存，若沒有，查數(shù)據(jù)庫，并且set緩存；寫操作直達數(shù)據(jù)庫，并且delete緩存。這種風格稱為直寫式緩存。
為避免重復代碼，可以利用AOP：Java可用Spring Cache，另外Hibernate可自動管理緩存；支持高階函數(shù)的語言自帶AOP，把數(shù)據(jù)操作變成閉包，外層包一個處理緩存的函數(shù)。
還有一種風格稱為寫回式緩存，讀寫操作都走緩存，由緩存來負責與數(shù)據(jù)庫同步。這種風格需要緩存系統(tǒng)的支持。
結(jié)語以上對問題背景和方案選擇都做了分析，尤其觸及一些知識盲點，然而這只是理論。
是的！鑒于實際環(huán)境的復雜性(即使是本篇文章也無法反映真實情況)，最推薦的做法仍然是實測！根據(jù)真實的應用場景來設計你的緩存架構(gòu)！(并不是只能線上實測，可以在測試環(huán)境盡量模擬。)
最后再推薦一些相關(guān)文章：
Pinterest談實戰(zhàn)經(jīng)驗：如何在兩年內(nèi)實現(xiàn)零到數(shù)百億的月訪問 http://www.qingjingjie.com/bl...
微博“異地多活”部署經(jīng)驗談 http://www.infoq.com/cn/artic...
The Log: What every software engineer should know about real-time data"s unifying abstraction https://engineering.linkedin....
文章版權(quán)歸作者所有，未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為，您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請注明本文地址：http://systransis.cn/yun/64919.html
摘要：但實際情況是緩存是大型網(wǎng)站的標配。以上分析告訴我們緩存架構(gòu)要滿足冷熱分離的特征不滿足，因為冷數(shù)據(jù)可能擠走熱數(shù)據(jù)。另外，眾所周知，緩存架構(gòu)還要滿足讀寫分離的特征也不滿足，因為寫操作會爭搶讀操作的資源。這種風格需要緩存系統(tǒng)的支持。 問題背景 略談服務端緩存設計 一文說到緩存不是必須的，因為數(shù)據(jù)庫本身就利用了內(nèi)存。但實際情況是緩存是大型網(wǎng)站的標配。 雖然經(jīng)驗顯示RDBMS最快時只需0~1ms...
摘要：但實際情況是緩存是大型網(wǎng)站的標配。以上分析告訴我們緩存架構(gòu)要滿足冷熱分離的特征不滿足，因為冷數(shù)據(jù)可能擠走熱數(shù)據(jù)。另外，眾所周知，緩存架構(gòu)還要滿足讀寫分離的特征也不滿足，因為寫操作會爭搶讀操作的資源。這種風格需要緩存系統(tǒng)的支持。 問題背景 略談服務端緩存設計 一文說到緩存不是必須的，因為數(shù)據(jù)庫本身就利用了內(nèi)存。但實際情況是緩存是大型網(wǎng)站的標配。 雖然經(jīng)驗顯示RDBMS最快時只需0~1ms...
摘要：降級往往會指定不同的級別，面臨不同的異常等級執(zhí)行不同的處理。談談你對和的認識兩者關(guān)系具體可以看公眾號阿里巴巴中間件的這篇文章獨家解讀從微服務框架到微服務生態(tài)與并不是競爭關(guān)系，作為成熟的框架，其易用性擴展性和健壯性已得到業(yè)界的認可。 該文已加入筆主的開源項目——JavaGuide（一份涵蓋大部分Java程序員所需要掌握的核心知識的文檔類項目),地址:https://github.com/...
摘要：降級往往會指定不同的級別，面臨不同的異常等級執(zhí)行不同的處理。談談你對和的認識兩者關(guān)系具體可以看公眾號阿里巴巴中間件的這篇文章獨家解讀從微服務框架到微服務生態(tài)與并不是競爭關(guān)系，作為成熟的框架，其易用性擴展性和健壯性已得到業(yè)界的認可。 該文已加入筆主的開源項目——JavaGuide（一份涵蓋大部分Java程序員所需要掌握的核心知識的文檔類項目),地址:https://github.com/...
閱讀 1550·2023-04-26 02:08
閱讀 3139·2021-10-14 09:42
閱讀 7230·2021-09-22 15:34
閱讀 3250·2019-08-30 13:16
閱讀 2751·2019-08-26 13:49
閱讀 1355·2019-08-26 11:59
閱讀 1286·2019-08-26 10:31
閱讀 2178·2019-08-23 17:19
