大數(shù)據(jù)湖架構(gòu)SEARCH AGGREGATION
回答:這個(gè)太范化了吧。大數(shù)據(jù)架構(gòu)選擇的方案就有很多，海量數(shù)據(jù)的即席查詢本省就是業(yè)內(nèi)目前的痛點(diǎn)，暫時(shí)沒有太好的解決方案，kylin等框架也只是一個(gè)折中方案，如果你不是要求海量數(shù)據(jù)分析的秒級響應(yīng)的話sparkSql、presto等都是不錯(cuò)的方案，分鐘級別可以返回。
Paul_King
|
690人閱讀
回答:現(xiàn)在有幸參與傳統(tǒng)銀行數(shù)字化轉(zhuǎn)型，負(fù)責(zé)技術(shù)架構(gòu)部分的轉(zhuǎn)型設(shè)計(jì)。高性能的數(shù)據(jù)架構(gòu)（High Performance Data Architecture），正是我們架構(gòu)轉(zhuǎn)型的重點(diǎn)。隨著科技的蓬勃發(fā)展、社交網(wǎng)絡(luò)的廣泛使用、線上消費(fèi)的普及、數(shù)據(jù)挖掘的技術(shù)提升等大趨勢，全球銀行業(yè)正迎來一場聲勢浩大的數(shù)字化創(chuàng)新浪潮。數(shù)字化為消費(fèi)者的生活及行為模式帶來翻天覆地的變化，也孵化出一批新型的金融科技(Fintech)競...
Lowky
|
543人閱讀
回答:以mysql為列：1：支撐高并發(fā)系統(tǒng)，一定會(huì)涉及事務(wù)，所以數(shù)據(jù)庫引擎必選innodb，innodb支持事務(wù)，事務(wù)級別根據(jù)業(yè)務(wù)而定，如果業(yè)務(wù)數(shù)據(jù)一致性要求很高，事務(wù)就開啟序列化級別，這樣就完全隔離事務(wù)，但是會(huì)導(dǎo)致鎖資源競爭加劇。mysql的性能有一定的降低。2：讀寫分離，數(shù)據(jù)庫分成主庫和從庫，主庫負(fù)責(zé)寫數(shù)據(jù)，叢庫負(fù)責(zé)讀數(shù)據(jù)。注意主從數(shù)據(jù)庫數(shù)據(jù)一致性問題。3：冷熱數(shù)據(jù)分離，美團(tuán)，餓了么部分設(shè)計(jì)采用冷熱...
Vultr
|
1279人閱讀
回答:目前階段大數(shù)據(jù)技術(shù)及體系已經(jīng)逐漸趨于成熟，不再是以概念貫穿的模式，大數(shù)據(jù)越來越多的被使用，伴隨互聯(lián)網(wǎng)化的發(fā)展更多的企業(yè)信息化已經(jīng)由IT時(shí)代轉(zhuǎn)變?yōu)镈T時(shí)代，以數(shù)據(jù)為核心，用數(shù)據(jù)進(jìn)行決策，基于數(shù)據(jù)驅(qū)動(dòng)企業(yè)的創(chuàng)新與發(fā)展，相信在將來大數(shù)據(jù)也會(huì)有更廣泛的應(yīng)用空間，對于大數(shù)據(jù)的理解主要分為以下幾個(gè)層面。1.數(shù)據(jù)來源：對于大數(shù)據(jù)時(shí)代而言更多強(qiáng)調(diào)基于業(yè)務(wù)數(shù)據(jù)的沉淀，在一定規(guī)模的數(shù)據(jù)上進(jìn)行進(jìn)一步的分析、處理、轉(zhuǎn)換，...
arashicage
|
1245人閱讀
回答:在大數(shù)據(jù)領(lǐng)域大概有四個(gè)大的工作方向，除了大數(shù)據(jù)平臺(tái)應(yīng)用及開發(fā)、大數(shù)據(jù)分析與應(yīng)用和大數(shù)據(jù)平臺(tái)集成與運(yùn)維之外，還有大數(shù)據(jù)平臺(tái)架構(gòu)與研發(fā)，除了以上四個(gè)大的工作方向之外，還有一個(gè)工作方向是大數(shù)據(jù)技術(shù)推廣和培訓(xùn)，這部分工作目前也有不少人在從事。大數(shù)據(jù)平臺(tái)架構(gòu)與研發(fā)主要的工作內(nèi)容是研發(fā)底層的大數(shù)據(jù)平臺(tái)，這部分工作的難度較高，從事這部分工作的研發(fā)級崗位也并不多。現(xiàn)在不少技術(shù)研發(fā)團(tuán)隊(duì)都以Hadoop、Spark平...
zhangxiangliang
|
3519人閱讀
回答:近幾年，大數(shù)據(jù)的概念逐漸深入人心，大數(shù)據(jù)的趨勢越來越火爆。但是，大數(shù)據(jù)到底是個(gè)啥？怎么樣才能玩好大數(shù)據(jù)呢？大數(shù)據(jù)的基本含義就是海量數(shù)據(jù)，麥肯錫全球研究所給出的定義是：一種規(guī)模大到在獲取、存儲(chǔ)、管理、分析方面大大超出了傳統(tǒng)數(shù)據(jù)庫軟件工具能力范圍的數(shù)據(jù)集合，具有海量的數(shù)據(jù)規(guī)模、快速的數(shù)據(jù)流轉(zhuǎn)、多樣的數(shù)據(jù)類型和價(jià)值密度低四大特征。數(shù)字經(jīng)濟(jì)的要素之一就是大數(shù)據(jù)資源，現(xiàn)在大家聊得最多的大數(shù)據(jù)是基于已經(jīng)存在的...
khlbat
|
819人閱讀
數(shù)據(jù)湖（Data Lake)，湖倉一體（Data Lakehouse）儼然已經(jīng)成為了大數(shù)據(jù)領(lǐng)域最為火熱的流行詞，在接受這些流行詞洗禮的時(shí)候，身為技術(shù)人員我們往往會(huì)發(fā)出這樣的疑問，這是一種新的技術(shù)嗎，還是僅僅只是概念上的翻新（新瓶裝舊...
...面實(shí)現(xiàn)彈性能力的云平臺(tái)、第一個(gè)采用容器架構(gòu)來支撐大數(shù)據(jù)能力的平臺(tái)、以及去年我們提出的在云中交付機(jī)器學(xué)習(xí)人工智能這樣的業(yè)務(wù)能力。截至2017年底，品高云的產(chǎn)品激活量已達(dá)到了3萬臺(tái)，其中最長的客戶穩(wěn)定使用時(shí)間已...
...各個(gè)微服務(wù)可被獨(dú)立部署，服務(wù)間是松耦合的關(guān)系，以及數(shù)據(jù)和治理的去中心化管理。微服務(wù)能夠幫助企業(yè)應(yīng)對業(yè)務(wù)復(fù)雜、頻繁更新以及團(tuán)隊(duì)規(guī)模龐大帶來的挑戰(zhàn)，實(shí)現(xiàn)IT對業(yè)務(wù)創(chuàng)新的驅(qū)動(dòng)。 1月12日，網(wǎng)易云主辦的微服務(wù)實(shí)踐...
當(dāng)前，大數(shù)據(jù)的價(jià)值已無需贅述，作為衡量一個(gè)公司核心能力的最底層標(biāo)準(zhǔn)，數(shù)據(jù)的建設(shè)也面臨著諸多難題。為了幫助企業(yè)用戶解決大數(shù)據(jù)分析門檻高、效率低的問題，UCloud USQL數(shù)據(jù)湖分析應(yīng)運(yùn)而生，可輕松完成面向海量數(shù)據(jù)的...
...欠東風(fēng)?，F(xiàn)在公共云混戰(zhàn)，我想說，無災(zāi)備不上云，保護(hù)數(shù)據(jù)，未雨綢繆，帶了雨傘，還需雨衣。未雨綢繆，到底是帶雨傘還是雨衣呢？時(shí)代在變，人的追求也在變。隨著公共云對企業(yè)用戶的影響加深，一大批上云企業(yè)越來越重...
...631.png style=max-width:650px/>1、數(shù)據(jù)結(jié)構(gòu)：數(shù)據(jù)倉庫只能存儲(chǔ)經(jīng)過處理和提煉的數(shù)據(jù)，而數(shù)據(jù)湖存儲(chǔ)尚未出于某種目的處理的原始數(shù)據(jù)。因此，數(shù)據(jù)湖需要比數(shù)據(jù)倉庫大得多的存儲(chǔ)容量，且數(shù)據(jù)靈活、分...
評論
收藏
從2012年開始，幾乎人人（至少是互聯(lián)網(wǎng)界）言必稱大數(shù)據(jù)，似乎不和大數(shù)據(jù)沾點(diǎn)邊都不好意思和別人聊天。從2016年開始，大數(shù)據(jù)系統(tǒng)逐步開始在企業(yè)中進(jìn)入部署階段，大數(shù)據(jù)的炒作逐漸散去，隨之而來的是應(yīng)用的蓬勃發(fā)展期...
從2012年開始，幾乎人人（至少是互聯(lián)網(wǎng)界）言必稱大數(shù)據(jù)，似乎不和大數(shù)據(jù)沾點(diǎn)邊都不好意思和別人聊天。從2016年開始，大數(shù)據(jù)系統(tǒng)逐步開始在企業(yè)中進(jìn)入部署階段，大數(shù)據(jù)的炒作逐漸散去，隨之而來的是應(yīng)用的蓬勃發(fā)展期...
...最近吳寧川一篇《厲害了，螞蟻金服！創(chuàng)造了中國自己的數(shù)據(jù)庫OceanBase》報(bào)道了OceanBase誕生的前因后果。內(nèi)容非常詳實(shí)，值得分享。同時(shí)自己也分享幾點(diǎn)雜想： 第一，殺熟不僅僅是大數(shù)據(jù)時(shí)代的產(chǎn)物 之前從某網(wǎng)平臺(tái)爆出的訂購...
...云計(jì)算的一小步，但可能是存儲(chǔ)行業(yè)的一大步。 關(guān)于數(shù)據(jù)存儲(chǔ)，學(xué)究們可以追溯到遠(yuǎn)古時(shí)期最早的結(jié)繩計(jì)數(shù)，或是以龜甲上刻下的第一個(gè)字為源頭……時(shí)間和方式可能并不重要，重要的是數(shù)據(jù)存儲(chǔ)自此而始。 對于現(xiàn)代人來說...
ChatGPT和Sora等AI大模型應(yīng)用，將AI大模型和算力需求的熱度不斷帶上新的臺(tái)階。哪里可以獲得...
大模型的訓(xùn)練用4090是不合適的，但推理（inference/serving）用4090不能說合適，...
圖示為GPU性能排行榜，我們可以看到所有GPU的原始相關(guān)性能圖表。同時(shí)根據(jù)訓(xùn)練、推理能力由高到低做了...
