回答:這個(gè)太范化了吧。大數(shù)據(jù)架構(gòu)選擇的方案就有很多,海量數(shù)據(jù)的即席查詢本省就是業(yè)內(nèi)目前的痛點(diǎn),暫時(shí)沒有太好的解決方案,kylin等框架也只是一個(gè)折中方案,如果你不是要求海量數(shù)據(jù)分析的秒級(jí)響應(yīng)的話sparkSql、presto等都是不錯(cuò)的方案,分鐘級(jí)別可以返回。
回答:分布式架構(gòu)是軟件系統(tǒng)分布式系統(tǒng)存儲(chǔ)是基于存儲(chǔ)、服務(wù)器、數(shù)據(jù)庫技術(shù)、容災(zāi)熱備等技術(shù)的系統(tǒng)集成數(shù)字經(jīng)濟(jì)時(shí)代,各個(gè)企業(yè)、個(gè)人都在生產(chǎn)數(shù)據(jù),利用數(shù)據(jù),數(shù)據(jù)也在社會(huì)中不斷流動(dòng)、循環(huán),為這個(gè)時(shí)代創(chuàng)造著價(jià)值與機(jī)遇。盡管數(shù)據(jù)如此珍貴,但我們?nèi)匀粫?huì)聽到在集中式存儲(chǔ)場景中,由于網(wǎng)絡(luò)攻擊、火災(zāi)、地震而造成數(shù)據(jù)故障、丟失等問題。為了防止數(shù)據(jù)出現(xiàn)故障、數(shù)據(jù)丟失、服務(wù)器出錯(cuò)、數(shù)據(jù)無法恢復(fù)等情況,越來越多企業(yè)開始把集中存儲(chǔ)轉(zhuǎn)變...
回答:分布式處理,分布式系統(tǒng)(其實(shí)也包含分布式存儲(chǔ)系統(tǒng))一直把RAS、MTBF、MTTR等作為可靠性衡量指標(biāo),但是專業(yè)指標(biāo)是CAP指標(biāo),可用性作為其中重要因素之一。CAP理論闡述了在分布式系統(tǒng)的設(shè)計(jì)中,沒有一種設(shè)計(jì)可以同時(shí)滿足一致性,可用性和分區(qū)容錯(cuò)性。所以一個(gè)好的分布式系統(tǒng),必須在架構(gòu)上充分考慮上述指標(biāo)。分布式系統(tǒng)設(shè)計(jì)中,BASE理論作為CAP理論的折中或延伸,在分布式系統(tǒng)中被大量使用。分布式系統(tǒng)的可...
回答:分布式存儲(chǔ)是當(dāng)下互聯(lián)網(wǎng)流行技術(shù)區(qū)塊鏈的特質(zhì)之一。它與傳統(tǒng)互聯(lián)網(wǎng)技術(shù)有些區(qū)別,一句話兩句話也說不清楚,直接上圖:第一種A圖就是中心化,也就是傳統(tǒng)互聯(lián)網(wǎng)數(shù)據(jù)的儲(chǔ)存方式,基于官方服務(wù)器,一旦服務(wù)器出現(xiàn)故障,數(shù)據(jù)、信息、資料都有可能丟失或泄露。第二種B圖就是去中心化,會(huì)出現(xiàn)一些節(jié)點(diǎn),一個(gè)節(jié)點(diǎn)記錄下一個(gè)節(jié)點(diǎn)生成或者儲(chǔ)存信息的值(具體如何記錄或者驗(yàn)證,小編不是專業(yè)的不敢亂講),這就是所謂的去中心化、分布式記賬...
回答:從計(jì)算機(jī)資源的發(fā)展來看,個(gè)人認(rèn)為可以分為三個(gè)階段:最為早期的共享式,后來的單體式,到現(xiàn)在的分布式。這個(gè)發(fā)展的原因,都是基于計(jì)算資源的需求。早期一臺(tái)服務(wù)unix服務(wù)器,連接多個(gè)終端,每個(gè)終端單獨(dú)獲取計(jì)算資源,其實(shí)跟現(xiàn)在的云計(jì)算感覺很類似,計(jì)算資源都放在服務(wù)器端,終端比較簡單。這是早期對(duì)計(jì)算資源的需求和提供的計(jì)算能力之間的供需關(guān)系決定的。后來,隨著計(jì)算機(jī)的發(fā)展,對(duì)計(jì)算資源的需求的不斷增加,單體式的計(jì)算...
回答:首先解釋一下什么是本地儲(chǔ)存,什么是分布式存儲(chǔ),分布式網(wǎng)絡(luò)存儲(chǔ)是通過網(wǎng)絡(luò)。采用可擴(kuò)展的網(wǎng)絡(luò)系統(tǒng)結(jié)構(gòu),建立多臺(tái)存儲(chǔ)服務(wù)器分擔(dān)和分散存儲(chǔ)負(fù)荷,(例如像微信淘寶等。在多個(gè)地區(qū)建立服務(wù)器集群)利用位置服務(wù)器位置地區(qū)存儲(chǔ)信息,它的特點(diǎn)是提高了系統(tǒng)的可靠性、可用性和存取效率快速的吞吐量,還易于擴(kuò)展,通過不斷的增加來調(diào)節(jié)。也可將所有文件存儲(chǔ)到不同的辦公室或者企業(yè)集團(tuán)所有的電腦內(nèi),這種叫做小的分布式存儲(chǔ)。通俗的解釋...
...時(shí)間內(nèi)是不一致的,但最終達(dá)到一致狀態(tài)。 分布式事務(wù)解決方案 有了上面的理論基礎(chǔ)后,這里介紹開始介紹幾種常見的分布式事務(wù)的解決方案。 說到這里順便順便給大家推薦一個(gè)Java方面的中高級(jí)程度的交流學(xué)習(xí)群:650385180,...
...分,損己三分,因此在互聯(lián)網(wǎng)項(xiàng)目中并不是很流行這種解決方案。 為了這個(gè)彌補(bǔ)這種方案帶來性能低的問題,大佬們又想出了很多種方案來解決,但這無一例外都需要通過在應(yīng)用層做手腳,即入侵業(yè)務(wù)的方式,比如很出名的 T...
...也有一個(gè)很嚴(yán)重的缺點(diǎn):沒有一個(gè)成熟的高可用和分布式解決方案。 所以,大多數(shù)互聯(lián)網(wǎng)公司的選擇都是混合使用,當(dāng) MySQL 能解決問題時(shí)就用 MySQL,而一些對(duì)性能、安全性、可靠性要求更高的業(yè)務(wù)則使用商用數(shù)據(jù)庫軟件。 對(duì)于...
...(增加了復(fù)雜度)三大問題時(shí)間回?fù)軙r(shí)間回?fù)軉栴}的幾種解決方案:直接拋異常(體驗(yàn)不太好)采用歷史時(shí)間(需要維護(hù)歷史時(shí)間,重啟時(shí)異常?)多時(shí)間線(如果多次回?fù)苋匀徊荒芾^續(xù)放號(hào))機(jī)器ID的分配和回收機(jī)器ID的分配...
...不斷地增大,其通過MySQL及磁盤基本無法滿足需求,只有分布式化。 這個(gè)時(shí)候MySQL變成了HBase,檢索變成了Solr/ES,再ECS提供的計(jì)算力變成了Spark。但這也會(huì)面臨存儲(chǔ)量大且存儲(chǔ)成本高等問題。 另外一個(gè)趨勢就是非結(jié)構(gòu)化的數(shù)據(jù)越...
...時(shí)間的數(shù)據(jù)不一致。 小結(jié)一下,本地緩存的數(shù)據(jù)一致性解決方案,能徹底解決的是借助一致性hash的方案,但是成本比較高。所以,如非必要還是慎重決定要不要做本地緩存。 總結(jié) 好了,我們一起總結(jié)一下。 這次呢,Z哥先花...
...了滿足所有虛擬機(jī)訪問帶來的帶寬要求,使用傳統(tǒng)存儲(chǔ)的解決方案需要購置多套 SAN 或者 NAS 存儲(chǔ)設(shè)備并分別部署,顯然價(jià)格較貴。 云存儲(chǔ)可構(gòu)建統(tǒng)一的資源池,并能夠動(dòng)態(tài)擴(kuò)展資源,并有效提升存儲(chǔ)資源的管理和使用效率。...
ChatGPT和Sora等AI大模型應(yīng)用,將AI大模型和算力需求的熱度不斷帶上新的臺(tái)階。哪里可以獲得...
大模型的訓(xùn)練用4090是不合適的,但推理(inference/serving)用4090不能說合適,...
圖示為GPU性能排行榜,我們可以看到所有GPU的原始相關(guān)性能圖表。同時(shí)根據(jù)訓(xùn)練、推理能力由高到低做了...