成人国产在线小视频_日韩寡妇人妻调教在线播放_色成人www永久在线观看_2018国产精品久久_亚洲欧美高清在线30p_亚洲少妇综合一区_黄色在线播放国产_亚洲另类技巧小说校园_国产主播xx日韩_a级毛片在线免费

資訊專(zhuān)欄INFORMATION COLUMN

Ubuntu16.04下安裝Hadoop2.7.4偽分布式環(huán)境

lei___ / 3350人閱讀

摘要:按打開(kāi)終端窗口,執(zhí)行如下命令安裝并設(shè)置免密登陸注意每次配置時(shí),需要注意當(dāng)前目錄為。的配置文件位于中,偽分布式需要修改個(gè)配置文件和。的配置文件是格式,每個(gè)配置以聲明的和的方式來(lái)實(shí)現(xiàn)。

1.創(chuàng)建Hadoop用戶
三部曲:添加用戶,設(shè)置密碼,給該用戶設(shè)置管理員權(quán)限
為 hadoop 用戶增加管理員權(quán)限,方便部署,避免一些對(duì)新手來(lái)說(shuō)比較棘手的權(quán)限問(wèn)題

sudo useradd -m hadoop -s /bin/bash
sudo passwd hadoop
sudo adduser hadoop sudo

2.登陸hadoop用戶后,更新apt
當(dāng)前用戶為hadoop,我們先更新一下 apt,后續(xù)我們使用 apt 安裝軟件,如果沒(méi)更新可能有一些軟件安裝不了。按 ctrl+alt+t 打開(kāi)終端窗口,執(zhí)行如下命令:

sudo apt-get update

3.安裝ssh并設(shè)置ssh免密登陸
注意:每次配置時(shí),需要注意當(dāng)前目錄為hadoop。
集群、單節(jié)點(diǎn)模式都需要用到 SSH 登陸(類(lèi)似于遠(yuǎn)程登陸,你可以登錄某臺(tái) Linux 主機(jī),并且在上面運(yùn)行命令),Ubuntu 默認(rèn)已安裝了 SSH client,此外還需要安裝 SSH server:

hadoop@master:~$sudo apt-get install openssh-server
//設(shè)置免密登陸,下面命令將創(chuàng)建一個(gè)新的密鑰
ssh-keygen -t rsa -P ""

如下圖:

并將生成的密鑰加入到授權(quán)中:

hadoop@master:~$cat /home/hadoop/.ssd/id_rsa.pub >> /home/hadoop/.ssh/authorized_keys

#測(cè)試SSH設(shè)置通過(guò)“hadoop”用戶連接到locahost,就是先su hadoop,然后使用ssh
hadoop@master:~$ssh localhost

4.安裝java

先檢查 Ubuntu 操作系統(tǒng)的架構(gòu)是32位還是64位

xugui@master:~$file /sbin/init

然后安裝相應(yīng)的jdk,例如,jdk-8-linux-x64.tar.gz
在本教程中,我們將提取的下載文件到 /usr/local ,如下命令:

xugui@master:~$ sudo tar -xvf jdk-8u60-linux-64.tar.gz -C /usr/local
#添加環(huán)境變量
vim /etc/porfile

添加下面內(nèi)空到系統(tǒng)變量,即 /etc/profile 文件的結(jié)束

JAVA_HOME=/usr/local/jdk1.8.0_60
PATH=$PATH:$HOME/bin:$JAVA_HOME/bin
export JAVA_HOME
export PATH

現(xiàn)在讓 Ubuntu 知道 JDK/JRE 的位置

xugui@master:~$ sudo update-alternatives --install "/usr/bin/java" "java" "/usr/local/jdk1.8.0_60/bin/java" 1
xugui@master:~$ sudo update-alternatives --install "/usr/bin/javac" "javac" "/usr/local/jdk1.8.0_60/bin/javac" 1
xugui@master:~$ sudo update-alternatives --install "/usr/bin/javaws" "javaws" "/usr/local/jdk1.8.0_60/bin/javaws" 1

告訴 Ubuntu 我們安裝的即 jdk1.8.0_60 必須是默認(rèn)的Java

xugui@master:~$ sudo update-alternatives --set java /usr/local/jdk1.8.0_60/bin/java
xugui@master:~$ sudo update-alternatives --set javac /usr/local/jdk1.8.0_60/bin/javac
xugui@master:~$ sudo update-alternatives --set javaws /usr/local/jdk1.8.0_60/bin/javaws

最后查看Java的版本:java -version

5.下載并安裝hadoop
去hadoop官網(wǎng)下載hadoop-2.6.0.tar.gz
我們選擇將 Hadoop 安裝至 /usr/local/ 中:

sudo tar -zxf ~/下載/hadoop-2.6.0.tar.gz -C /usr/local    # 解壓到/usr/local中
cd /usr/local/
sudo mv ./hadoop-2.6.0/ ./hadoop            # 將文件夾名改為hadoop
sudo chown -R hadoop ./hadoop       # 修改文件權(quán)限

Hadoop偽分布式配置
添加環(huán)境變量:vim ~/.bashrc

export HADOOP_HOME=/usr/local/hadoop
export JAVA_HOME=/usr/local/jdk1.8.0_60
export PATH=$PATH:$HADOOP_HOME/bin

然后 source ~/.bashrc

配置關(guān)聯(lián)HDFS,設(shè)置 JAVA_HOME 在文件 /usr/local/hadoop/etc/hadoop/hadoop-env.sh 中

vim /usr/local/hadoop/etc/hadoop/hadoop-env.sh

#添加jdk
export JAVA_HOME=/usr/local/jdk1.8.0_60

Hadoop 可以在單節(jié)點(diǎn)上以偽分布式的方式運(yùn)行,Hadoop 進(jìn)程以分離的 Java 進(jìn)程來(lái)運(yùn)行,節(jié)點(diǎn)既作為 NameNode 也作為 DataNode,同時(shí),讀取的是 HDFS 中的文件。

Hadoop 的配置文件位于 /usr/local/hadoop/etc/hadoop/ 中,偽分布式需要修改2個(gè)配置文件 core-site.xml 和 hdfs-site.xml 。Hadoop的配置文件是 xml 格式,每個(gè)配置以聲明 property 的 name 和 value 的方式來(lái)實(shí)現(xiàn)。

修改配置文件 :core-site.xml
vim  /usr/local/hadoop/etc/hadoop/core-site.xml 


    
        hadoop.tmp.dir
        file:/usr/local/hadoop/tmp
        Abase for other temporary directories.
    
    
        fs.defaultFS
        hdfs://localhost:9000
    


#修改配置文件 hdfs-site.xml:

vim  /usr/local/hadoop/etc/hadoop/hdfs-site.xml


    
        dfs.replication
        1
    
    
        dfs.namenode.name.dir
        file:/usr/local/hadoop/tmp/dfs/name
    
    
        dfs.datanode.data.dir
        file:/usr/local/hadoop/tmp/dfs/data
    

Map Reduce 配置

#修改配置文件: mapred-site.xml
vim /usr/local/hadoop/etc/hadoop/mapred-site.xml


    
        mapreduce.jobtracker.address
        localhost:9001
    

在hadoop用戶下,先用ssh localhost,然后格式化hdfs:

#./bin/hdfs是相對(duì)路徑,就是先cd到/usr/local/hadoop目錄下
hadoop@master:~$./bin/hdfs namenode -format

顯示格式化成功

#./sbin同上是相對(duì)路徑,啟動(dòng)hdfs和
./sbin/start-dfs.sh
./sbin/start-yarn.sh

#然后輸入jps,查看是否啟動(dòng)成功
jps

如下圖:

終止這兩個(gè)守護(hù)進(jìn)程hdfs和yarn

./sbin/stop-dfs.sh
./sbin/stop-yarn.sh

到目前為止,偽分布式環(huán)境已經(jīng)搭建成功了。
我也是新手,寫(xiě)個(gè)教程總結(jié)一下,然后也是踩了不少坑過(guò)來(lái)的,可以參考一下以下兩個(gè)教程:
http://dblab.xmu.edu.cn/blog/...
https://wizardforcel.gitbooks...

文章版權(quán)歸作者所有,未經(jīng)允許請(qǐng)勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。

轉(zhuǎn)載請(qǐng)注明本文地址:http://systransis.cn/yun/70770.html

相關(guān)文章

  • Hadoop2.7.4布式集群安裝配置文件

    摘要:中默認(rèn)配置和的存放位置的地址就是基于此。需配置成,才可運(yùn)行程序的主機(jī)名對(duì)客戶端暴露的地址??蛻舳送ㄟ^(guò)該地址向提交應(yīng)用程序,殺死應(yīng)用程序等對(duì)暴露的訪問(wèn)地址。注意,該參數(shù)是不可修改的,一旦設(shè)置,整個(gè)運(yùn)行過(guò)程中不可動(dòng)態(tài)修改。 集群環(huán)境 Hadoop版本為2.7.4 JDK版本1.8.0_144 安裝了三臺(tái)虛擬機(jī)分別設(shè)定名稱(chēng)和IP如下 主機(jī)名稱(chēng) IP地址 master 192.1...

    beita 評(píng)論0 收藏0
  • Ubuntu 16.04環(huán)境安裝RabbitMQ消息隊(duì)列工具

    摘要:,一個(gè)開(kāi)源的消息隊(duì)列工具,且由語(yǔ)言開(kāi)發(fā)的的開(kāi)源實(shí)現(xiàn)的。第一系統(tǒng)環(huán)境安裝升級(jí)這里我們使用的是系統(tǒng)。第二安裝依賴(lài)環(huán)境我們?cè)趫?zhí)行安裝之前,需要安裝依賴(lài)環(huán)境。第三安裝然后我們需要啟動(dòng)服務(wù)。RabbitMQ,一個(gè)開(kāi)源的消息隊(duì)列工具,且由 Erlang 語(yǔ)言開(kāi)發(fā)的 AMQP的開(kāi)源實(shí)現(xiàn)的。RabbitMQ最早源于金融系統(tǒng),使用在分布式系統(tǒng)中存儲(chǔ)轉(zhuǎn)發(fā)消息,在易用性、擴(kuò)展性、高可用性等方面表現(xiàn)都比較優(yōu)秀。在這...

    馬永翠 評(píng)論0 收藏0
  • Ceph v12.2 Luminous基于ubuntu16.04集群部署

    摘要:第一次接觸集群,感謝官方的指導(dǎo)文檔和許多網(wǎng)友提供的教程,糊糊涂涂算是把集群部署起來(lái)了。應(yīng)該為每個(gè)運(yùn)行的機(jī)器添加一個(gè),否則集群處于狀態(tài)。至此的集群搭建算是完成了,下一步會(huì)進(jìn)行塊設(shè)備的搭建。參考分布式存儲(chǔ)部署手冊(cè)如何在中安裝存儲(chǔ)集群部署版 第一次接觸ceph集群,感謝官方的指導(dǎo)文檔和許多網(wǎng)友提供的教程,糊糊涂涂算是把集群部署起來(lái)了。由于Luminous12.2剛發(fā)布不久,部署起來(lái)跟舊版本還...

    MiracleWong 評(píng)論0 收藏0
  • Docker - 入門(mén)(一),基礎(chǔ)使用

    摘要:查看版本,確認(rèn)已正確安裝查看鏡像拉取一個(gè)默認(rèn)拉去最新版本的鏡像,當(dāng)然也可以指定之后的數(shù)字為鏡像版本拉取成功后該數(shù)字即為鏡像的標(biāo)簽進(jìn)入鏡像首先查看我們的拉取的鏡像輸出即為我們剛拉取的鏡像,繼續(xù)執(zhí)行若不是,需要帶上以交互模式運(yùn)行容 查看docker版本,確認(rèn)docker已正確安裝 $ docker --version Docker version 18.09.2, build 624796...

    Darkgel 評(píng)論0 收藏0

發(fā)表評(píng)論

0條評(píng)論

最新活動(dòng)
閱讀需要支付1元查看
<