CDH 4.X-i Apache Oozie töövooajastaja installimine ja konfigureerimine RHEL/CentOS 6/5-s


Oozie on Hadoopi jaoks avatud lähtekoodiga ajastaja, see lihtsustab töövoogu ja tööde koordineerimist. Võime määratleda sisendandmete sõltuvuse tööde vahel ja seega automatiseerida sõltuvuse töö ajastamise ajastaja abil.

Selles õpetuses olen installinud Oozie oma põhisõlmele (st peremees hostinimeks ja kuhu on installitud namenode/JT ), kuid tootmissüsteemis peaks oozie olema installitud eraldi sõlm.

Paigaldusjuhised on jagatud kaheks osaks, nimetame neid A ja B.

  1. A. Oozie installatsioon.
  2. B. Oozie seadistamine.

Kontrollime kõigepealt süsteemi hostinime, kasutades käsku „hostinimi”.

[[email protected]aster]# hostname

master

Meetod A: Oozie installimine RHEL/CentOS 6/5-le

CDH4 installimiseks kasutame cloudera saidi ametlikku CDH hoidlat. Minge CDH4 ametlikku allalaadimisjaotisse ja laadige alla CDH4 (st 4.6) versioon, või võite ka hoidla allalaadimiseks ja installimiseks kasutada järgmist käsku wget.

# wget http://archive.cloudera.com/cdh4/one-click-install/redhat/6/i386/cloudera-cdh-4-0.i386.rpm
# yum --nogpgcheck localinstall cloudera-cdh-4-0.i386.rpm

# wget http://archive.cloudera.com/cdh4/one-click-install/redhat/6/x86_64/cloudera-cdh-4-0.x86_64.rpm
# yum --nogpgcheck localinstall cloudera-cdh-4-0.x86_64.rpm
# wget http://archive.cloudera.com/cdh4/one-click-install/redhat/5/i386/cloudera-cdh-4-0.i386.rpm
# yum --nogpgcheck localinstall cloudera-cdh-4-0.i386.rpm

# wget http://archive.cloudera.com/cdh4/one-click-install/redhat/5/x86_64/cloudera-cdh-4-0.x86_64.rpm
# yum --nogpgcheck localinstall cloudera-cdh-4-0.x86_64.rpm

Kui olete CDH-i hoidla oma süsteemi lisanud, saate Oozie süsteemi installimiseks kasutada järgmist käsku.

[[email protected] ~]# yum install oozie

Nüüd installige oozie klient (ülaltoodud käsk peaks katma kliendi installimise osa, kuid kui mitte, proovige käsku allpool).

[[email protected] ~]# yum install oozie-client

Märkus. Ülaltoodud installimine konfigureerib oozie teenuse käitamiseks ka süsteemi käivitamisel. Tubli töö! Oleme installimise esimese osaga läbi saanud. Nüüd liigume oozie seadistamiseks teise ossa.

Meetod B: Oozie seadistamine RHEL/CentOS 6/5 seadmes

Kuna oozie ei suhtle otse Hadoopiga, pole meil siin vaja ühtegi kaardistatud konfiguratsiooni.

Ettevaatust: konfigureerige kõik seaded, kui oozie ei tööta, see tähendab, et peate järgima alltoodud samme, kui oozie-teenus ei tööta.

Ooziel on DB-s vaikimisi sisse ehitatud ‘Derby’, kuid soovitaksin kasutada Mysql DB-d. Nii et installime MySQL-i andmebaasi järgmise artikli abil.

  1. Installige MySQL-i andmebaas rakendusse RHEL/CentOS 6/5

Kui olete installimisosaga valmis saanud, liikuge järgmisena edasi, et luua oozie DB ja anda õigused, nagu allpool näidatud.

[[email protected] ~]# mysql -uroot -p
Enter password:
Welcome to the MySQL monitor.  Commands end with ; or \g.
Your MySQL connection id is 3
Server version: 5.5.38 MySQL Community Server (GPL) by Remi

Copyright (c) 2000, 2014, Oracle and/or its affiliates. All rights reserved.

Oracle is a registered trademark of Oracle Corporation and/or its
affiliates. Other names may be trademarks of their respective
owners.

Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.

mysql> create database oozie;
Query OK, 1 row affected (0.00 sec)

mysql> grant all privileges on oozie.* to 'oozie'@'localhost' identified by 'oozie';
Query OK, 0 rows affected (0.00 sec)

mysql> grant all privileges on oozie.* to 'oozie'@'%' identified by 'oozie';
Query OK, 0 rows affected (0.00 sec)

mysql> exit
Bye

Järgmisena konfigureerige MySQL-i jaoks Oozie atribuudid. Avage fail oozie-site.xml ja muutke järgmisi atribuute, nagu näidatud.

[[email protected] ~]# cd /etc/oozie/conf
[[email protected] conf]# vi oozie-site.xml

Sisestage järgmised atribuudid (asendage lihtsalt master [minu hostinimi] oma hostinimega).

<property>
        <name>oozie.service.JPAService.jdbc.driver</name>
        <value>com.mysql.jdbc.Driver</value>
    </property>
    <property>
        <name>oozie.service.JPAService.jdbc.url</name>
        <value>jdbc:mysql://master:3306/oozie</value>
    </property>
    <property>
        <name>oozie.service.JPAService.jdbc.username</name>
        <value>oozie</value>
    </property>
    <property>
        <name>oozie.service.JPAService.jdbc.password</name>
        <value>oozie</value>
    </property>

Laadige alla ja lisage MySQL JDBC-ühenduse draiver JAR Oozie libi kataloogi. Selleks käivitage terminalis järgmine tõsine käsk.

[[email protected] oozie]# cd /tmp/
[[email protected] tmp]# wget http://dev.mysql.com/get/Downloads/Connector-J/mysql-connector-java-5.1.31.tar.gz
[[email protected] tmp]# tar -zxf mysql-connector-java-5.1.31.tar.gz	
[[email protected] tmp]# cd mysql-connector-java-5.1.31
[[email protected] mysql-connector-java-5.1.31]# cp mysql-connector-java-5.1.31-bin.jar /var/lib/oozie/

Looge oozie andmebaasi skeem, käivitades allpool olevad käsud ja pange tähele, et seda tuleks käivitada oozie kasutajana.

[[email protected] ~]# sudo -u oozie /usr/lib/oozie/bin/ooziedb.sh create -run
setting OOZIE_CONFIG=/etc/oozie/conf
setting OOZIE_DATA=/var/lib/oozie
setting OOZIE_LOG=/var/log/oozie
setting OOZIE_CATALINA_HOME=/usr/lib/bigtop-tomcat
setting CATALINA_TMPDIR=/var/lib/oozie
setting CATALINA_PID=/var/run/oozie/oozie.pid
setting CATALINA_BASE=/usr/lib/oozie/oozie-server-0.20
setting CATALINA_OPTS=-Xmx1024m
setting OOZIE_HTTPS_PORT=11443
...
DONE
Oozie DB has been created for Oozie version '3.3.2-cdh4.7.0'
The SQL commands have been written to: /tmp/ooziedb-8250405588513665350.sql

Oozie veebikonsooli lubamiseks peate Internetist alla laadima ExtJS libi. Minge ametlikule CDH ExtJS-i lehele ja laadige alla ExtJS-i versiooni 2.2 teegid või saate paketi alla laadida järgmise käsu abil.

[[email protected] ~]# cd /tmp/
[[email protected] tmp]# wget http://archive.cloudera.com/gplextras/misc/ext-2.2.zip
[[email protected] tmp]# unzip ext-2.2.zip
[[email protected] tmp]# mv ext-2.2 /var/lib/oozie/

Lõpuks käivitage oozie server, käivitades järgmised käsud.

[[email protected] tmp]# service oozie status
not running.

[[email protected] tmp]# service oozie start

[[email protected] tmp]# service oozie status
running

[[email protected] tmp]# oozie admin -oozie http://localhost:11000/oozie -status
System mode: NORMAL

Avage oozie kasutajaliides oma lemmikbrauseri abil ja osutage oma IP-aadressile. Sellisel juhul on minu IP 192.168.1.129.

http://192.168.1.129:11000

Kui näete seda kasutajaliidest. Palju õnne !! Olete oozie edukalt konfigureerinud.

Seda protseduuri on edukalt testitud RHEL/CentOS 6/5 seadmes. Oma eelseisvates artiklites jagan, kuidas seadistada ja ajastada hadoop-töid oozie kaudu. Püsige ühenduses rohkem ja ärge unustage oma tagasisidet kommenteerida.