成人国产在线小视频_日韩寡妇人妻调教在线播放_色成人www永久在线观看_2018国产精品久久_亚洲欧美高清在线30p_亚洲少妇综合一区_黄色在线播放国产_亚洲另类技巧小说校园_国产主播xx日韩_a级毛片在线免费

資訊專(zhuān)欄INFORMATION COLUMN

azkaban 部署-azkaban 的部署和應(yīng)用

白馬嘯西風(fēng) / 771人閱讀

第一步:包準(zhǔn)備

?首先我們先將Azkaban Web服務(wù)器、Azkaban執(zhí)行服務(wù)器和MySQL統(tǒng)一拷貝到虛擬機(jī)/usr/local/src/azkaban目錄下,

具體的命令如下:

[root@master zkaban]# ll|awk '{print $NF}'
98600
azkaban-executor-server-2.5.0.tar.gz
azkaban-sql-script-2.5.0.tar.gz
azkaban-web-server-2.5.0.tar.gz
mysql-libs.zip
[root@master zkaban]# pwd
/usr/local/src/zkaban

數(shù)據(jù)庫(kù)準(zhǔn)備?

??當(dāng)前azkaban只支持 mysql,不支持其它的非關(guān)系型數(shù)據(jù)庫(kù),我們需安裝mysql服務(wù)器,本文檔中的演示情況是默認(rèn)已安裝好mysql服務(wù)器,并建立了 root用戶,密碼 root,如果沒(méi)安裝的需要自己安裝一下。

第二步:安裝azkaban?

快速命令

cd /usr/local/azkaban/
mkdir -p /usr/local/azkaban/
tar xf azkaban-web-server-2.5.0.tar.gz -C /usr/local/azkaban/
tar xf azkaban-executor-server-2.5.0.tar.gz -C /usr/local/azkaban/
tar xf azkaban-sql-script-2.5.0.tar.gz -C /usr/local/azkaban/
cd /usr/local/azkaban/
ln -sf azkaban-web-2.5.0 server
ln -sf azkaban-executor-2.5.0 executor

詳細(xì)過(guò)程

[root@master src]# cd zkaban/
[root@master zkaban]# ls
azkaban-executor-server-2.5.0.tar.gz  azkaban-sql-script-2.5.0.tar.gz  azkaban-web-server-2.5.0.tar.gz  mysql-libs.zip
[root@master zkaban]# ll
total 98600
-rw-r--r-- 1 root root 11157302 Feb 16  2017 azkaban-executor-server-2.5.0.tar.gz
-rw-r--r-- 1 root root     1928 Feb 16  2017 azkaban-sql-script-2.5.0.tar.gz
-rw-r--r-- 1 root root 11989669 Feb 16  2017 azkaban-web-server-2.5.0.tar.gz
-rw-r--r-- 1 root root 77807942 Mar  3  2017 mysql-libs.zip
[root@master zkaban]# mkdir -p /usr/local/azkaban
[root@master zkaban]# tar -zxvf azkaban-web-server-2.5.0.tar.gz -C /usr/local/azkaban/
[root@master zkaban]# tar -xf azkaban-executor-server-2.5.0.tar.gz -C /usr/local/azkaban/
[root@master zkaban]# tar -xf azkaban-sql-script-2.5.0.tar.gz -C /usr/local/azkaban/
[root@master zkaban]# cd /usr/local/azkaban/
[root@master azkaban]# ln -sf azkaban-web-2.5.0 server
[root@master azkaban]# ln -sf azkaban-executor-2.5.0 executor

   數(shù)據(jù)導(dǎo)入?

azkaban腳本導(dǎo)入,進(jìn)入mysql,創(chuàng)建azkaban數(shù)據(jù)庫(kù),并將解壓的腳本導(dǎo)入到azkaban數(shù)據(jù)庫(kù)。

快速部署

source /usr/local/azkaban/server/create-all-sql-2.5.0.sql

詳細(xì)操作

[root@master azkaban]# pwd
/usr/local/azkaban
[root@master azkaban]# ls /usr/local/azkaban/server/create-all-sql-2.5.0.sql 
/usr/local/azkaban/server/create-all-sql-2.5.0.sql
[root@master azkaban]# mysql -uroot -proot
mysql: [Warning] Using a password on the command line interface can be insecure.
Welcome to the MySQL monitor.  Commands end with ; or \g.
Your MySQL connection id is 751
Server version: 5.7.26 MySQL Community Server (GPL)

Copyright (c) 2000, 2019, Oracle and/or its affiliates. All rights reserved.

Oracle is a registered trademark of Oracle Corporation and/or its
affiliates. Other names may be trademarks of their respective
owners.

Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.

mysql> create database azkaban;
Query OK, 1 row affected (0.02 sec)

mysql> use azkaban;
Database changed
mysql> source /usr/local/azkaban/server/create-all-sql-2.5.0.sql
Query OK, 0 rows affected (0.07 sec)

Query OK, 0 rows affected (0.02 sec)

Query OK, 0 rows affected (0.01 sec)

Query OK, 0 rows affected (0.02 sec)
Records: 0  Duplicates: 0  Warnings: 0

Query OK, 0 rows affected (0.01 sec)
Records: 0  Duplicates: 0  Warnings: 0

Query OK, 0 rows affected (0.01 sec)
Records: 0  Duplicates: 0  Warnings: 0

Query OK, 0 rows affected (0.01 sec)
Records: 0  Duplicates: 0  Warnings: 0

Query OK, 0 rows affected (0.01 sec)

Query OK, 0 rows affected (0.01 sec)
Records: 0  Duplicates: 0  Warnings: 0

Query OK, 0 rows affected (0.01 sec)
Records: 0  Duplicates: 0  Warnings: 0

Query OK, 0 rows affected (0.02 sec)
Records: 0  Duplicates: 0  Warnings: 0

Query OK, 0 rows affected (0.01 sec)

Query OK, 0 rows affected (0.01 sec)
Records: 0  Duplicates: 0  Warnings: 0

Query OK, 0 rows affected (0.00 sec)
Records: 0  Duplicates: 0  Warnings: 0

Query OK, 0 rows affected (0.01 sec)

Query OK, 0 rows affected (0.01 sec)
Records: 0  Duplicates: 0  Warnings: 0

Query OK, 0 rows affected (0.01 sec)

Query OK, 0 rows affected (0.01 sec)
Records: 0  Duplicates: 0  Warnings: 0

Query OK, 0 rows affected (0.01 sec)

Query OK, 0 rows affected (0.02 sec)
Records: 0  Duplicates: 0  Warnings: 0

Query OK, 0 rows affected (0.01 sec)

Query OK, 0 rows affected (0.01 sec)
Records: 0  Duplicates: 0  Warnings: 0

Query OK, 0 rows affected (0.01 sec)

Query OK, 0 rows affected (0.01 sec)
Records: 0  Duplicates: 0  Warnings: 0

Query OK, 0 rows affected (0.00 sec)

Query OK, 0 rows affected (0.01 sec)
Records: 0  Duplicates: 0  Warnings: 0

Query OK, 0 rows affected (0.01 sec)

Query OK, 0 rows affected (0.01 sec)
Records: 0  Duplicates: 0  Warnings: 0

Query OK, 0 rows affected (0.01 sec)

Query OK, 0 rows affected (0.01 sec)

Query OK, 0 rows affected (0.01 sec)
Records: 0  Duplicates: 0  Warnings: 0

Query OK, 0 rows affected (0.01 sec)

mysql> show tables;
+------------------------+
| Tables_in_azkaban      |
+------------------------+
| active_executing_flows |
| active_sla             |
| execution_flows        |
| execution_jobs         |
| execution_logs         |
| project_events         |
| project_files          |
| project_flows          |
| project_permissions    |
| project_properties     |
| project_versions       |
| projects               |
| properties             |
| schedules              |
| triggers               |
+------------------------+
15 rows in set (0.00 sec)
mysql> exit
Bye

2.3 證書(shū)制作?

[root@master server]# cd
[root@master ~]# cd /usr/local/azkaban/server/
[root@master server]# keytool -keystore keystore -alias jetty -genkey -keyalg RSA
Enter keystore password:          <---- 輸入一個(gè)密碼[推薦000000,后面配置文件會(huì)用到]
Re-enter new password:            <---- 重復(fù)輸入
What is your first and last name?
  [Unknown]:    <----  回車(chē)
What is the name of your organizational unit?
  [Unknown]:    <----  回車(chē)
What is the name of your organization?
  [Unknown]:    <----  回車(chē)
What is the name of your City or Locality?
  [Unknown]:    <----  回車(chē)
What is the name of your State or Province?
  [Unknown]:    <----  回車(chē)
What is the two-letter country code for this unit?
  [Unknown]:    <----  回車(chē)
Is CN=Unknown, OU=Unknown, O=Unknown, L=Unknown, ST=Unknown, C=Unknown correct?
  [no]:  y      <----  輸入y回車(chē)

Enter key password for <jetty>
    (RETURN if same as keystore password):   <----  輸入之前密碼 000000
Re-enter new password:                       <----  再次輸入密碼 000000

Warning:
keystore keystore -destkeystore keystore -deststoretype pkcs12".
[root@master server]# ls
azkaban.version  bin  conf  extlib  keystore  lib  plugins  web
[root@master server]# ecll
-bash: ecll: command not found
[root@master server]# ll
total 12
-rw-r--r-- 1 root root  105 Apr 22  2014 azkaban.version
drwxr-xr-x 2 root root  112 Apr 22  2014 bin
drwxr-xr-x 2 root root   57 Aug 13 11:14 conf
drwxr-xr-x 2 root root    6 Apr 22  2014 extlib
-rw-r--r-- 1 root root 2244 Aug 13 11:16 keystore
drwxr-xr-x 2 root root 4096 Aug 13 11:14 lib
drwxr-xr-x 2 root root    6 Apr 22  2014 plugins
drwxr-xr-x 6 root root   73 Aug 13 11:14 web
[root@master server]# du -sh keystore 
4.0K    keystore
cd /usr/local/azkaban/server/
keytool -keystore keystore -alias jetty -genkey -keyalg RSA


2.4 時(shí)間同步?

?? 所有機(jī)器時(shí)間都要同步一致。省略,因?yàn)槲倚聶C(jī)器優(yōu)化,已經(jīng)配置過(guò)了。

2.5 配置文件修改?

2.5.1 Web服務(wù)器配置?


[root@master server]# cd ..
[root@master azkaban]# ls
azkaban-2.5.0  azkaban-executor-2.5.0  azkaban-web-2.5.0  executor  server
[root@master azkaban]# cd server/
[root@master server]# ll
total 16
-rw-r--r-- 1 root root  105 Apr 22  2014 azkaban.version
drwxr-xr-x 3 root root  179 Aug 13 11:40 bin
drwxr-xr-x 2 root root   57 Aug 13 11:34 conf
-rw-r--r-- 1 root root    7 Aug 13 11:40 currentpid
drwxr-xr-x 2 root root    6 Apr 22  2014 extlib
-rw-r--r-- 1 root root 2244 Aug 13 11:16 keystore
drwxr-xr-x 2 root root 4096 Aug 13 11:14 lib
drwxr-xr-x 2 root root    6 Apr 22  2014 plugins
drwxr-xr-x 6 root root   73 Aug 13 11:14 web
[root@master server]# cd conf/
[root@master conf]# ls
azkaban.properties  azkaban-users.xml

2.5.2 執(zhí)行服務(wù)器配置?

修改解釋如下:


[root@master conf]# cat azkaban-users.xml 
<azkaban-users>
    <user username="azkaban" password="azkaban" roles="admin" groups="azkaban" />
    <user username="metrics" password="metrics" roles="metrics"/>
    <user username="admin" password="admin" roles="admin,metrics" />    
    <role name="admin" permissions="ADMIN" />
    <role name="metrics" permissions="METRICS"/>
</azkaban-users>


<user username="admin" password="admin" roles="admin,metrics" /> 用戶名和密碼都會(huì)admin


[root@master conf]# egrep -v '#|^$' azkaban.properties 
azkaban.name=Test                           # 服務(wù)器UI名稱(chēng),用于服務(wù)器上方顯示的名字
azkaban.label=My Local Azkaban              # 描述
azkaban.default.servlet.path=/index
web.resource.dir=/usr/local/azkaban/server/web/   # 默認(rèn)web 目錄
default.timezone.id=Asia/Shanghai                 # 時(shí)區(qū)
user.manager.class=azkaban.user.XmlUserManager    # 用戶權(quán)限管理默認(rèn)類(lèi)
user.manager.xml.file=/usr/local/azkaban/server/conf/azkaban-users.xml  # 配置文件[要使用絕對(duì)路徑]
executor.global.properties=/usr/local/azkaban/server/conf/global.properties # 配置文件[要使用絕對(duì)路徑]
azkaban.project.dir=projects
database.type=mysql      # 數(shù)據(jù)庫(kù)類(lèi)型(目前只支持mysql)
mysql.port=3306          # mysql 端口
mysql.host=master        # mysql的ip/域名
mysql.database=azkaban   # mysql創(chuàng)建的庫(kù)
mysql.user=root          # 鏈接mysql 用戶
mysql.password=root      # 鏈接mysql 密碼
mysql.numconnections=100 # 最大鏈接數(shù)
velocity.dev.mode=false
jetty.maxThreads=25
jetty.ssl.port=8443      # web端口
jetty.port=8081
jetty.keystore=/usr/local/azkaban/server/keystore   # 證書(shū)地址[要使用絕對(duì)路徑]
jetty.password=000000    # 制作證書(shū)的密碼
jetty.keypassword=000000 # 制作證書(shū)的密碼
jetty.truststore=/usr/local/azkaban/server/keystore # 證書(shū)地址[要使用絕對(duì)路徑]
jetty.trustpassword=000000 # 制作證書(shū)的密碼
executor.port=12321
mail.sender=
mail.host=
job.failure.email=
job.success.email=
lockdown.create.projects=false
cache.directory=cache

可以配置smtp郵箱,可以發(fā)郵件

2.6 啟動(dòng)?

  • 啟動(dòng)web服務(wù)器



  • 啟動(dòng)執(zhí)行服務(wù)器


cd /usr/local/azkaban/executor/bin/
./azkaban-executor-start.sh



  • 查詢(xún)


[root@master bin]# jps
37828 ResourceManager
109029 Jps
37670 SecondaryNameNode
37481 NameNode
26334 Master
68879 QuorumPeerMain
99967 AzkabanExecutorServer
100126 AzkabanWebServer

注意啟動(dòng)順序

2.7 登錄?

??啟動(dòng)完成后,在瀏覽器(建議使用谷歌瀏覽器)中輸入https://服務(wù)器IP地址:8443,即可訪問(wèn)azkaban服務(wù)了。在登錄中輸入剛才新的戶用名及密碼,點(diǎn)擊 login。

圖片.png

圖片.png


文章版權(quán)歸作者所有,未經(jīng)允許請(qǐng)勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。

轉(zhuǎn)載請(qǐng)注明本文地址:http://systransis.cn/yun/127491.html

相關(guān)文章

  • cdhazkaban-cdhazkaban介紹、安裝使用

    工作流調(diào)度系統(tǒng)一個(gè)完整的數(shù)據(jù)分析系統(tǒng)大都是由海量的任務(wù)單元組成shell腳本程序,java,mapreduce程序、hive腳本等等組成,非常復(fù)雜,各任務(wù)單元之間存在時(shí)間先后及前后依賴(lài)關(guān)系。為了很好地組織起這樣的復(fù)雜系統(tǒng),能夠按照計(jì)劃執(zhí)行,就必須要一個(gè)工作流調(diào)度系統(tǒng)來(lái)調(diào)度執(zhí)行。例如,某個(gè)業(yè)務(wù)系統(tǒng)可能每天產(chǎn)生20G原始數(shù)據(jù),我們每天都要對(duì)其進(jìn)行處理。具體處理步驟如下所示:1. 通過(guò)Hadoop先將原...

    白馬嘯西風(fēng) 評(píng)論0 收藏0
  • 大數(shù)據(jù)入門(mén)指南(GitHub開(kāi)源項(xiàng)目)

    摘要:項(xiàng)目地址前言大數(shù)據(jù)技術(shù)棧思維導(dǎo)圖大數(shù)據(jù)常用軟件安裝指南一分布式文件存儲(chǔ)系統(tǒng)分布式計(jì)算框架集群資源管理器單機(jī)偽集群環(huán)境搭建集群環(huán)境搭建常用命令的使用基于搭建高可用集群二簡(jiǎn)介及核心概念環(huán)境下的安裝部署和命令行的基本使用常用操作分區(qū)表和分桶表視圖 項(xiàng)目GitHub地址:https://github.com/heibaiying... 前 言 大數(shù)據(jù)技術(shù)棧思維導(dǎo)圖 大數(shù)據(jù)常用軟件安裝指...

    guyan0319 評(píng)論0 收藏0
  • azkaban 安裝

    摘要:否則沒(méi)有配置環(huán)境會(huì)報(bào)錯(cuò)。重新編譯打包就可以 azkaban azkaban 是一個(gè)用Java開(kāi)發(fā)的開(kāi)源調(diào)度工具workflow,同類(lèi)型的工具有用Python開(kāi)發(fā)的 airflow 和 luigi. build 在我的windows上無(wú)法build成功,我在CentOS上build成功了 git clone https://github.com/azkaban/azkaban.git c...

    luqiuwen 評(píng)論0 收藏0
  • azkaban使用方法

    1:?jiǎn)稳蝿?wù)Azkaba內(nèi)置的任務(wù)類(lèi)型支持command、javaroot@leco:/home/leco#catfoo.job type=command command=echofoo root@leco:/home/leco#zipfoo.zipfoo.job updating:foo.job(deflated13%)我們把job的資源文件可以打包成為zip格式的。然后通過(guò)azkaban...

    白馬嘯西風(fēng) 評(píng)論0 收藏0
  • 使用azkaban 建立一個(gè)簡(jiǎn)單任務(wù)調(diào)度系統(tǒng)

    摘要:使用建立一個(gè)簡(jiǎn)單的任務(wù)調(diào)度系統(tǒng)可以作為任務(wù)的調(diào)度工具,也可以作為任務(wù)和任務(wù)的調(diào)度工具。更加方便,只要在中增加一個(gè)方法,返回對(duì)象,然后任務(wù)可以直接在初始化的中讀取到這個(gè)參數(shù)。 使用azkaban 建立一個(gè)簡(jiǎn)單的任務(wù)調(diào)度系統(tǒng) azkaban 可以作為hadoop 任務(wù)的調(diào)度工具,也可以作為shell任務(wù)和java任務(wù)的調(diào)度工具。安裝過(guò)程有點(diǎn)繁瑣,見(jiàn)安裝文檔。 Job Type 見(jiàn)鏈接 ht...

    Bmob 評(píng)論0 收藏0

發(fā)表評(píng)論

0條評(píng)論

白馬嘯西風(fēng)

|高級(jí)講師

TA的文章

閱讀更多
最新活動(dòng)
閱讀需要支付1元查看
<