摘要:超詳細集群服務(wù)器安裝配置教程虛擬機以及系統(tǒng)安裝在之前的兩篇分享中已經(jīng)詳細的介紹了方法,并且每一步的都配圖了。物理集群三臺及以上實體服務(wù)器外網(wǎng)下載模式本地文件模式將安裝包文件直接拷貝到實體服務(wù)器目錄下,進行安裝操作即可。
超詳細hadoop集群服務(wù)器安裝配置教程
虛擬機以及Linux系統(tǒng)安裝在之前的兩篇分享中已經(jīng)詳細的介紹了方法,并且每一步的都配圖了。如果有朋友還是看不懂,那我也愛莫能助了。本篇主要就hadoop服務(wù)器操作系統(tǒng)配置進行詳細說明,hadoop安裝會在下一篇文章中詳細的介紹。
hadoop安裝包用的是大快DKHadoop發(fā)行版,個人覺得DKHadoop的安裝過程是比較簡單,關(guān)于dkhadoop的安裝在下一次的分享中再詳細介紹吧。下面進入到本篇的主題——服務(wù)器操作系統(tǒng)配置教程
一、安裝包準備
1、虛擬機分布式安裝(三臺及以上虛擬機)
若是個人電腦Windows系統(tǒng)或Linux系統(tǒng),虛擬機上虛擬的三臺服務(wù)器,則將安裝包拷貝到服務(wù)器上,進行安裝操作即可。
2、物理集群(三臺及以上實體服務(wù)器)
1、 外網(wǎng)下載模式
2、 本地文件模式
將安裝包文件直接拷貝到實體服務(wù)器root目錄下,進行安裝操作即可。
3、上傳模式
當服務(wù)器在機房,且無顯示和輸入設(shè)備的情況下,應用該模式。
現(xiàn)將文件,安裝在本地計算機上(默認為筆記本電腦,在機房現(xiàn)場),并將計算機與服務(wù)器連接,將安裝包install、DKHInstall上傳到服務(wù)器root目錄下。
二、服務(wù)器操作系統(tǒng)配置教程
準備工作完成之后,就要進行服務(wù)器配置操作,首先必須三臺服務(wù)器之間要互相ping通。所謂ping通,就是兩臺設(shè)備之間網(wǎng)絡(luò)是通的。從一端發(fā)送一個數(shù)據(jù)包,另一端就能夠收到,就代表兩臺設(shè)備是能夠ping通了。
1、修改權(quán)限
目的:使install、DKHInstall兩個安裝包有可執(zhí)行的權(quán)限。權(quán)限不足無法執(zhí)行一些操作。install里面是腳本和所有組件,DKHInstall里面是安裝界面。
步驟:在準備工作中拷貝安裝包 install、DKHInstall到主節(jié)點目錄后,修改文件權(quán)限。首先進入root目錄,安裝目錄 install、DKHInstall的權(quán)限改為:文件所有者可讀可寫可執(zhí)行,與文件所有者屬于一個用戶組的其他用戶可讀可執(zhí)行,其他用戶組可讀可執(zhí)行。
命令:
cd /root/
unzip DKHPlantform.zip
chmod -R 755 DKHPlantform
2、 搭建Hadoop集群設(shè)置SSH免密登錄
目的:Hadoop運行過程中需要管理遠端Hadoop守護進程,在Hadoop啟動以后,NameNode是通過SSH(Secure Shell)來啟動和停止各個DataNode上的各種守護進程的。這就必須在節(jié)點之間執(zhí)行指令的時候是不需要輸入密碼的形式,所以我們需要配置SSH運用無密碼公鑰認證的形式,這樣NameNode使用SSH無密碼登錄并啟動DataName進程,同樣原理,DataNode上也能使用SSH無密碼登錄到NameNode。
步驟:
(1)修改本機hosts文件,寫入對應關(guān)系
為了區(qū)分局域網(wǎng)內(nèi)的每臺主機,都會給主機配一個主機名,每臺主機之間又是通過IP進行通信,但IP地址不方便記憶,所以配置主機名和IP映射能夠?qū)崿F(xiàn)主機之間的快速方便的訪問。
命令:
vi /etc/hosts
通過按鍵盤上的insert或是I鍵進入編輯模式,編輯完成后按一下Esc鍵然后按一下按Shift+: 鍵,輸入wq,后回車就可以保存。輸入q!后回車則是放棄保存并退出.
進入編輯模式后,按照規(guī)則寫入主機與ip的對應關(guān)系(主機名稱dk41是自己命名的,如下圖)例:
192.168.1.41 dk41
192.168.1.42 dk42
192.168.1.43 dk43
編輯完后,保存退出。把對應關(guān)系拷到其他兩臺或多臺機器上。
命令:
scp -r /etc/hosts 192.168.1.42:/etc
scp -r /etc/hosts 192.168.1.43:/etc
(2)執(zhí)行集群之間免密前的準備工作
執(zhí)行sshpass.sh的腳本的時候會去讀sshhosts和sshslaves這兩個文件,替換
修改文件sshhosts,輸入全部機器的主機名,每行一個主機名(如下圖)
命令:
vi /root/DKHPlantform/autossh/sshhosts
通過按鍵盤上的insert或是I鍵進入編輯模式,編輯完成后按一下Esc鍵然后按一下按Shift+:鍵,輸入wq,后回車就可以保存。輸入q!后回車則是放棄保存并退出.
修改文件sshslaves,寫入除主機名之外的所有機器名(如下圖)
命令:
vi /root/DKHPlantform/autossh/sshslaves
通過按鍵盤上的insert或是I鍵進入編輯模式,編輯完成后按一下Esc鍵然后按一下按Shift+:鍵,輸入wq,后回車就可以保存。輸入q!后回車則是放棄保存并退出.
(3)執(zhí)行集群免密工作
命令:
cd /root/DKHPlantform/autossh
./autossh 主節(jié)點主機名 集群密碼
例: ./autossh dk41 123456
(4)關(guān)閉防火墻
防止訪問服務(wù)器時某些服務(wù)被攔截,需關(guān)閉防火墻。
命令:
cd /root/DKHPlantform/autossh
./offIptables.sh
3、 安裝雙機熱備份的MySQL
目的:存放Hive的元數(shù)據(jù)
步驟:
(1)從主節(jié)點分發(fā)mySQL安裝目錄到第二節(jié)點
命令:
scp -r /root/DKHPlantform/mysqlInst/ 192.168.1.42:/root/
(2)主節(jié)點執(zhí)行:
命令:
cd /root/DKHPlantform/mysqlInst/
./mysql.sh 1
從節(jié)點執(zhí)行:
命令:
cd /root/mysqlInst/
./mysql.sh 2
(3)執(zhí)行成功之后執(zhí)行熱備份(兩臺機器上都要執(zhí)行,兩個ip互換,41上寫42,42上寫41,密碼是MySQL的密碼為:123456。平臺內(nèi)已經(jīng)設(shè)定好,請勿修改):
命令:
source /etc/profile
./sync.sh 192.168.1.xxx(另一臺mysql地址)
4、 創(chuàng)建數(shù)據(jù)庫
目的:MySQL是一種關(guān)聯(lián)數(shù)據(jù)庫管理系統(tǒng),關(guān)聯(lián)數(shù)據(jù)庫將數(shù)據(jù)保存在不同的表中,增加了速度并提高了靈活性。
步驟:
(1)導入MySQL數(shù)據(jù)表,只在主節(jié)點執(zhí)行:
命令:
mysql -uroot -p123456 < { 此處為sql文件,主目錄下文件: dkh.sql}
如:mysql -uroot -p123456 (2)執(zhí)行完后查看一下兩臺mysql的數(shù)據(jù)表是否存在,從主節(jié)點中查看執(zhí)行:
命令:
mySQL -uroot -p123456
show databases;
use dkh;
show tables;
5、啟動安裝
目的:服務(wù)器配置操作完成之后,啟動DKH。
步驟:執(zhí)行以下命令。
命令:
cd /root/DKHPlantform/dkh-tomcat*/bin/
./startup.sh
6、本地時間服務(wù)器搭建步驟
沒聯(lián)網(wǎng)或者裝系統(tǒng)時時間未同步,需要搭建本地時間服務(wù)器。
(1)搭建內(nèi)網(wǎng)的ntp服務(wù)器
修改/etc/ntp.conf
命令:
Vim /etc/ntp.conf
通過按鍵盤上的insert或是I鍵進入編輯模式,編輯完成后按一下Esc鍵然后按一下按Shift+:鍵,輸入wq后回車就可以保存。輸入q!后回車則是放棄保存并退出.
修改下列三行:
在文件最后添加下列兩行:
server 127.127.1.0
fudge 127.127.1.0 stratum 10
(2)啟動ntp服務(wù)
service ntpd start
(3)開機自動啟動
chkconfig ntpd on
(4)客戶端同步時間
命令:
Vim /etc/ntp.conf
通過按鍵盤上的insert或是I鍵進入編輯模式,編輯完成后按一下Esc鍵然后按一下按Shift+:鍵,輸入wq,后回車就可以保存。輸入q!后回車則是放棄保存并退出.
在文件最后添加一行:
/15 * root ntpdate 192.168.27.35;hwclock -w
文章版權(quán)歸作者所有,未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請注明本文地址:http://systransis.cn/yun/71887.html
摘要:新手篇入門基礎(chǔ)教程關(guān)于的分享此前一直都是零零散散的想到什么就寫什么,整體寫的比較亂吧。上兩周寫的五篇內(nèi)容,匯總到一起就算是新手入門的一個基礎(chǔ)性教程吧持續(xù)更新中。應該在改版完成后就可以正常申請下載了。 Hadoop新手篇:hadoop入門基礎(chǔ)教程關(guān)于hadoop的分享此前一直都是零零散散的想到什么就寫什么,整體寫的比較亂吧。最近可能還算好的吧,畢竟花了兩周的時間詳細的寫完的了hadoop...
摘要:超詳細虛擬機安裝圖文教程前兩天看到有人留言問在什么情況下需要部署,我給的回答也很簡單,就是在需要處理海量數(shù)據(jù)的時候才需要考慮部署。圖圖為虛擬機命名,如下圖,命名按照自己喜歡即可,點擊下一步進行處理器配置。 超詳細Dkhadoop虛擬機安裝圖文教程前兩天看到有人留言問在什么情況下需要部署hadoop,我給的回答也很簡單,就是在需要處理海量數(shù)據(jù)的時候才需要考慮部署hadoop。關(guān)于這個問題...
摘要:實用貼系統(tǒng)下載安裝教程在前幾篇的文章中分別就虛擬系統(tǒng)安裝系統(tǒng)安裝以及運行服務(wù)器的設(shè)置等內(nèi)容寫了詳細的操作教程,本篇分享的是的下載安裝步驟。我讓他們?nèi)ハ螺d安裝試一下,至于后來試沒試就不得而知了。 實用貼:hadoop系統(tǒng)下載安裝教程在前幾篇的文章中分別就虛擬系統(tǒng)安裝、LINUX系統(tǒng)安裝以及hadoop運行服務(wù)器的設(shè)置等內(nèi)容寫了詳細的操作教程,本篇分享的是hadoop的下載安裝步驟。在此之...
閱讀 3597·2023-04-26 01:43
閱讀 2984·2021-10-14 09:42
閱讀 5477·2021-09-30 09:59
閱讀 2183·2021-09-04 16:40
閱讀 1220·2019-08-30 15:52
閱讀 838·2019-08-29 17:09
閱讀 2006·2019-08-26 13:37
閱讀 3440·2019-08-26 10:20