博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Oozie安装
阅读量:4541 次
发布时间:2019-06-08

本文共 2465 字,大约阅读时间需要 8 分钟。

Oozie的安装与部署

1、解压Oozie

$ tar -zxf /opt/softwares/oozie-4.0.0-cdh5.3.6.tar.gz -C /opt/modules/cdh/

2、Hadoop配置文件修改,完成后scp到其他机器节点

  • core-site.xml
hadoop.proxyuser.admin.hosts
*
hadoop.proxyuser.admin.groups
*
  • 配置JobHistoryServer服务(必须)
  • mapred-site.xml
mapreduce.jobhistory.address
hadoop-senior01.itguigu.com:10020
mapreduce.jobhistory.webapp.address
hadoop-senior01.itguigu.com:19888
  • yarn-site.xml
yarn.log.server.url
http://hadoop-senior01.itguigu.com:19888/jobhistory/logs/

  完成后:记得scp同步到其他机器节点。

3、开启Hadoop集群

$ sh ~/start-cluster.sh

尖叫提示:需要配合开启JobHistoryServer,最好执行一个MR任务进行测试。

4、解压hadooplibs

$ tar -zxf /opt/modules/cdh/oozie-4.0.0-cdh5.3.6/oozie-hadooplibs-4.0.0-cdh5.3.6.tar.gz -C /opt/modules/cdh/

完成后Oozie目录下会出现hadooplibs目录

5、在Oozie目录下创建libext目录

$ mkdir libext/

6、拷贝一些依赖的Jar包

  • 将hadooplibs里面的jar包,拷贝到libext目录下
$ cp -ra /opt/modules/cdh/oozie-4.0.0-cdh5.3.6/hadooplibs/hadooplib-2.5.0-cdh5.3.6.oozie-4.0.0-cdh5.3.6/* libext/
  • 拷贝Mysql驱动包到libext目录下
$ cp -a /opt/softwares/mysql-connector-java-5.1.27/mysql-connector-java-5.1.27-bin.jar /opt/modules/cdh/oozie-4.0.0-cdh5.3.6/libext/

7、将ext-2.2.zip拷贝到libext/目录下

$ cp /opt/softwares/ext-2.2.zip libext/

8、修改Oozie配置文件

  • oozie-site.xml
** JDBC驱动oozie.service.JPAService.jdbc.drivercom.mysql.jdbc.Driver** Mysql的oozie数据库的配置oozie.service.JPAService.jdbc.urljdbc:mysql://192.168.122.20:3306/oozie** 数据库用户名oozie.service.JPAService.jdbc.usernameroot** 数据库密码oozie.service.JPAService.jdbc.password123456** 让Oozie引用Hadoop的配置文件oozie.service.HadoopAccessorService.hadoop.configurations真的就是这样:--> *=/opt/modules/cdh/hadoop-2.5.0-cdh5.3.6/etc/hadoop

9、在Mysql中创建Oozie的数据库

  • 进入数据库
$ mysql -uroot -p123456
  • 创建oozie数据库
mysql> create database oozie;

10、初始化Oozie的配置

  • 上传Oozie目录下的yarn.tar.gz文件到HDFS(尖叫提示:yarn.tar.gz文件会自行解压)
$ bin/oozie-setup.sh sharelib create -fs hdfs://hadoop-senior01.itguigu.com:8020 -locallib oozie-sharelib-4.0.0-cdh5.3.6-yarn.tar.gz

执行成功之后,去50070检查对应目录有没有文件生成。

  • 创建oozie.sql文件
$ bin/oozie-setup.sh db create -run -sqlfile oozie.sql
  • 打包项目,生成war包
$ bin/oozie-setup.sh prepare-war

11、启动Oozie服务

$ bin/oozied.sh start(关闭Oozie服务:$ bin/oozied.sh stop)

12、访问Oozie的Web页面

http://hadoop-senior01.itguigu.com:11000/oozie

 

转载于:https://www.cnblogs.com/alexzhang92/p/10920458.html

你可能感兴趣的文章
Linux 下的dd命令使用详解
查看>>
POJ-1273 Drainage Ditches 最大流Dinic
查看>>
ASP.NET学习记录点滴
查看>>
[Noip2016] 愤怒的小鸟
查看>>
JAVA wait()和notifyAll()实现线程间通讯
查看>>
python全栈脱产第11天------装饰器
查看>>
[总结]数据结构(板子)
查看>>
C# 笔记
查看>>
[转]人人店短信插件开发
查看>>
[转]c# System.IO.Ports SerialPort Class
查看>>
14. 最长公共前缀
查看>>
Redis文档
查看>>
项目重构
查看>>
(笔试题)和一半的组合数
查看>>
leetcode--Algorithm--Array_Part 1 Easy- 566 Reshape the Matrix
查看>>
AC自动机算法详解 (转载)
查看>>
python3-day5(模块)
查看>>
Linux配置JDK
查看>>
qt 读取xml文件
查看>>
python3之正则表达式
查看>>