【云计算】Ubuntu14.04下安装部署CDH5.11.0步骤流程
小标 2019-02-11 来源 : 阅读 1590 评论 0

摘要:本文主要向大家介绍了【云计算】Ubuntu14.04下安装部署CDH5.11.0步骤流程,通过具体的内容向大家展现,希望对大家学习云计算有所帮助。

本文主要向大家介绍了【云计算】Ubuntu14.04下安装部署CDH5.11.0步骤流程,通过具体的内容向大家展现,希望对大家学习云计算有所帮助。


写在前边:


以下安装流程为CDH版本的集群安装流程,基本适用于所有CDH版本在ubuntu14.04下的安装



一、服务器及相应安装包准备


三台4核8G的Ubuntu14.04服务器(内存最低8G) CDH安装文件准备

CDH-5.11.0-1.cdh5.11.0.p0.34-trusty.parcel


CDH-5.11.0-1.cdh5.11.0.p0.34-trusty.parcel.sha1


cloudera-manager-trusty-cm5.11.0_amd64.tar.gz


manifest.json


 


下载地址:


//archive.cloudera.com/cm5/cm/5/



JDK安装包准备(最好是1.8,以支持其他组件)

jdk-8u144-linux-x64.tar.gz


 


二、服务器网络配置


保证服务器在同一个内网(网路畅通),配置三台服务器/etc/hosts,配置IP映射,这里我们把BigData-Dev-1定为主节点,其它两台定为次节点 


配置三台服务器root用户ssh免密登陆


ssh-keygen -t rsa (一路回撤,三台机器都要执行),生成对应每台机器的密钥文件,目录:/root/.ssh


创建authorized_keys文件,将三台服务的公钥即id_rsa.pub内容copy paste到authorized_keys,最后分发大三台机器的/root/.ssh目录


最后互相ssh测试通过即可 


三、java环境安装配置


解压java安装包到指定安装文件 tar -zxvf jdk-8u144-linux-x64.tar.gz -C /usr/lib/jvm/ 配置环境变量,修改/etc/profile文件

export JAVA_HOME=/usr/lib/jvm/jdk1.8.0_144


export PATH=$PATH:$JAVA_HOME/bin


export CLASSPATH=.:$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/li


使配置环境变量生效 source /etc/profile 测试是否安装成功

java –version



注:java环境安装配置步骤需要在三台机器上都执行所有步骤并验证


四、配置服务器时间同步


安装ntp apt-get install ntp 配置crontab

vi /etc/crontab,添加如下定时操作


*/30 * * * * root ntpdate cn.pool.ntp.org > /opt/shell/ntp_date/ntp_date.log 2>&1 &



注:三台机器都要配置


五、安装HTTP服务


安装HTTP服务 安装命令:apt-get install apache2 启动服务


注:3台机器都要走以上流程


六、安装mysql数据库


mysql在这里旨在提供CDH集群的元数据管理服务,当然也可以选择其数据,如PG,如果选择其它数据库,请自动忽略这一步,其它数据库配置请参考官方链接: https://www.cloudera.com/documentation/enterprise/latest/topics/cm_ig_mysql.htmlscroll=cmig_topic_5_5_2_unique_1 安装mysql apt-get install mariadb-server-5.5 启动MySQL service mysql restart 修改mysql用户名密码 sudo mysqladmin -u root password newpassword 修改mysql配置文件

sudo vi /etc/mysql/my.cnf


bind-address = 127.0.0.1 //找到此内容并且注释


为各个服务创建元数据库并赋权

create database amon DEFAULT CHARACTER SET utf8;


grant all on amon.* TO 'amon'@'%' IDENTIFIED BY 'amon';


grant all on amon.* TO 'amon'@'CDH' IDENTIFIED BY 'amon';


create database smon DEFAULT CHARACTER SET utf8;


grant all on smon.* TO 'smon'@'%' IDENTIFIED BY 'smon';


grant all on smon.* TO 'smon'@'CDH' IDENTIFIED BY 'smon';


create database rman DEFAULT CHARACTER SET utf8;


grant all on rman.* TO 'rman'@'%' IDENTIFIED BY 'rman';


grant all on rman.* TO 'rman'@'CDH' IDENTIFIED BY 'rman';


create database hmon DEFAULT CHARACTER SET utf8;


grant all on hmon.* TO 'hmon'@'%' IDENTIFIED BY 'hmon';


grant all on hmon.* TO 'hmon'@'CDH' IDENTIFIED BY 'hmon';


create database hive DEFAULT CHARACTER SET utf8;


grant all on hive.* TO 'hive'@'%' IDENTIFIED BY 'hive';


grant all on hive.* TO 'hive'@'CDH' IDENTIFIED BY 'hive';


create database oozie DEFAULT CHARACTER SET utf8;


grant all on oozie.* TO 'oozie'@'%' IDENTIFIED BY 'oozie';


grant all on oozie.* TO 'oozie'@'CDH' IDENTIFIED BY 'oozie';


create database hue DEFAULT CHARACTER SET utf8;


grant all on hue.* TO 'hue'@'%' IDENTIFIED BY 'hue';


grant all on hue.* TO 'hue'@'CDH' IDENTIFIED BY 'hue';


create database metastore DEFAULT CHARACTER SET utf8;


grant all on metastore.* TO 'hive'@'%' IDENTIFIED BY 'hive';


grant all on metastore.* TO 'hive'@'CDH' IDENTIFIED BY 'hive';


GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY 'root'


WITH GRANT OPTION;


flush privileges;


注:mysql安装在3台机器的任意一台即可,当然能做个主从最好


七、安装mysql驱动


安装命令

apt-get install libmysql-java


注:3台都装上吧,反正没什么坏处


八、安装Cloudera Manager Server 和Agents


在主节点opt目录下创建目录(单节点:主节点) mkdir /opt/cloudera-manager 将下载好的cloudera-manager-trusty-cm5.11.0_amd64.tar.gz解压到/opt/cloudera-manager中(单节点:主节点) 创建cs用户(单节点:主节点) sudo useradd --system --home=/opt/cloudera-manager/cm-5.11.0/run/cloudera-scm-server --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm 使用cloudera脚本完成mysql配置(单节点:主节点) /opt/cloudera-manager/cm-5.11.0/share/cmf/schema/scm_prepare_database.sh mysql -uroot -p --scm-host localhost scm scm scm_password 创建cloudera manager sever的本地数据存储目录(单节点:主节点)

mkdir /var/log/cloudera-scm-server


sudo chown cloudera-scm:cloudera-scm /var/log/cloudera-scm-serve


先在主节点进行配置server_host,因为主节点的clouder-manager要发送到其他机器,所以配置一台即可,其他机器需要简历opt文件夹vim /opt/cloudera-manager/cm-5.11.0/etc/cloudera-scm-agent/config.ini,修改server_host参数为主节点IP(单节点:主节点)  向其他节点发送cloudera-manager

scp –r /opt/cloudera-manager root@BigData-Dev-2:/opt


scp –r /opt/cloudera-manager root@BigData-Dev-3:/opt


九、创建CDH安装目录


在主节点上创建文件夹(单节点:主节点) mkdir -p /opt/cloudera/parcel-repo

把跟CDH相关的文件包放到/opt/cloudera/parcel-repo中(单节点:主节点),放以下文件


CDH-5.11.0-1.cdh5.11.0.p0.34-trusty.parcel


CDH-5.11.0-1.cdh5.11.0.p0.34-trusty.parcel.sha1


manifest.json


重命名CDH-5.11.0-1.cdh5.11.0.p0.34-trusty.parcel.sha1,去掉最后的1(单节点:主节点)


在从节点上创建(主节点以外的节点) mkdir –p /opt/cloudera/parcels


在各个节点上安装依赖(所有节点) apt-get install lsb-base psmisc bash libsasl2-modules libsasl2-modules-gssapi-mit zlib1g libxslt1.1 libsqlite3-0 libfuse2 fuse rpcbind


内存交换区警告解决 echo 0 > /proc/sys/vm/swappiness


启动server和agent,执行以下命令


在主节点上执行


/opt/cloudera-manager/cm-5.11.0/etc/init.d/cloudera-scm-server restart


/opt/cloudera-manager/cm-5.11.0/etc/init.d/cloudera-scm-agent restart


在从节点上执行


/opt/cloudera-manager/cm-5.11.0/etc/init.d/cloudera-scm-agent restart


十、启动集群,安装服务


在第9大步完成之后,30s后(由于服务启动可能有延迟),访问主节点外网IP的7180端口

//主节点外网IP:7180


初始用户名:admin 密码:admi


十一、总结


配置到这里已基本全部结束,后续的界面化安装都有文字提示,跟着一步步走就可以,这套流程我走了不下40遍,只要熟练,一个小集群几十分钟就能完成!


          

本文由职坐标整理并发布,希望对同学们有所帮助。了解更多详情请关注职坐标大数据云计算大数据安全频道!

本文由 @小标 发布于职坐标。未经许可,禁止转载。
喜欢 | 0 不喜欢 | 0
看完这篇文章有何感觉?已经有0人表态,0%的人喜欢 快给朋友分享吧~
评论(0)
后参与评论

您输入的评论内容中包含违禁敏感词

我知道了

助您圆梦职场 匹配合适岗位
验证码手机号,获得海同独家IT培训资料
选择就业方向:
人工智能物联网
大数据开发/分析
人工智能Python
Java全栈开发
WEB前端+H5

请输入正确的手机号码

请输入正确的验证码

获取验证码

您今天的短信下发次数太多了,明天再试试吧!

提交

我们会在第一时间安排职业规划师联系您!

您也可以联系我们的职业规划师咨询:

小职老师的微信号:z_zhizuobiao
小职老师的微信号:z_zhizuobiao

版权所有 职坐标-一站式AI+学习就业服务平台 沪ICP备13042190号-4
上海海同信息科技有限公司 Copyright ©2015 www.zhizuobiao.com,All Rights Reserved.
 沪公网安备 31011502005948号    

©2015 www.zhizuobiao.com All Rights Reserved