第3章HBase环境搭建 Ver1.7-20230514

Imagemap
第3章HBase环境搭建
Ver1.7-20230514学习视频概述环境与版本配套关系Zookeeper安装安装&配置&测试Zookeeper视频HBase安装HBase下载与安装HBase配置与运行解决initializing视频http://master:16030持续出现initializing时才需要处 ...概述HBase的运行依赖于Hadoop HDFS文件系统提供数据的持久化,依赖Zoo ...HBase使用Zookeeper服务来进行节点管理以及表数据的定位HBase的基本组成结构HBase集群主要角色HBase Master(对应HMaster)Master是HBase集群的主控服务器;
Master可有多个,但只要一个活跃 ...HBase Region ServerRegion Server是HBase具体对外提供服务的进程软件配套参考JavaHBase 2.0-2.2 -》JDK 8HBase 2.3+ -》 JDK 8 ,JDK 11ulimit sudo vi  /etc/security/limits.confhadoop  -       nofile  32768
hadoop  -  ...sudo vi /etc/pam.d/common-sessionsession required  pam_limits.soHadoopHadoop-3.3.x => HBase-2.3.x? & 
HBase-2.4.x=> Hadoop-2.10.x=> Hadoop-3.1.1+  Hadoop-3.2.x=>HBase2.3.xHadoop-3.1.1+=>HBase-2.1.x &
HBase-2.2.x &
HBase-2.3. ...Hadoop-2.8.5+=>HBase-2.0.x & 
HBase-2.1.x &
HBase-2.2 ...ZooKeeper下载最新的稳定版本Apache ZooKeeper 3.7.1 (latest stable re ...其它ssh & DNS & NTP & ulimit测试环境环境一192.168.31.21  master192.168.31.22        c22192.168.31.23        c23192.168.31.24        c24环境二192.168.137.100 master192.168.137.101 slave1192.168.137.102 slave2安装参考HBase安装参考URLZookeeper安装参考URLZookeeper安装软件安装Zookeeper下载https://zookeeper.apache.org/https://zookeeper.apache.org/releases.ht ...wget -c https://dlcdn.apache.org/zookeep ...wget -c  https://mirrors.aliyun.com/apac ...Zookeeper安装包解压tar -xzvf ./apache-zookeeper-3.7.1-bin.t ...Zookeeper目录转移sudo mv ./apache-zookeeper-3.7.1-bin /us ...Zookeeper配置配置zoo.cfgmkdir -p /home/hadoop/zookeeper/datacd /usr/local/zookeeper/conf
cp ./zoo_sa ...修改/etc/profilesudo vi /etc/profileexport ZOOKEEPER_HOME=/usr/local/zookeep ...source /etc/profile复制hbase到从机在所有从机上创建目录:
useradd hadoop -G users
pass ...sudo scp   -r /usr/local/zookeeper/ hado ...复制/etc/profile到从机 scp  /etc/profile c22:/etc/
 scp  /etc/ ...然后到各从机使用生效配置:
source /etc/profile写入文件myidmkdir -p /home/hadoop/zookeeper/data/
ch ...master机mkdir -p /home/hadoop/zookeeper/data/
ch ...c22机mkdir -p /home/hadoop/zookeeper/data/
ch ...c23机zookeeper运行在每台主机和从机都启动cd /usr/local/zookeeper/bin
./zkServer.s ...或在master主机批量启停从机.批量启动ZooKeeper节点cd /usr/local/zookeeper/bin
vi ./zkstart ...#!/bin/bash
echo “starting ZooKeeper clu ...chmod 755 ./zkstart-all.sh批量停止ZooKeeper节点cd /usr/local/zookeeper/bin
vi ./zkstop- ...#!/bin/bash
echo “starting ZooKeeper clu ...chmod 755 ./zkstop-all.sh 主从机上都可运行停止停止zk节点:
cd /usr/local/zookeeper/bin
./zk ...主从机上都可以查询查看zk节点状态,#集群中只有一个leader其余节点为follower
cd  ...检查进程ps查询主从机进程会多出Dzookeeper的进程
ps aux |grep D ...jps查询master主机多出QuorumPeerMain进程
[root@ma ...截图jps查询从机有多出QuorumPeerMain进程
2386 QuorumPe ...截图一截图二zookeeper客户端参考cd /usr/local/zookeeper/bin
./zkCli.sh - ...结果截图命令使用help如图ls /create /zk_test my_dataget /zk_testset /zk_test junkdelete /zk_testquit退出HBase安装软件安装HBase下载解压
目录转移地址参考https://hbase.apache.org/https://www.apache.org/dyn/closer.lua/hb ...选择一种wget -c https://dlcdn.apache.org/hbase/2 ...wget -c wget -c https://mirrors.aliyun.c ...HBase配置完全分布式
HBase/etc/profilevi /etc/profileexport HBASE_HOME=/usr/local/hbase
expor ...source /etc/profileconf/hbase-env.sh cd /usr/local/hbase/conf
vi ./hbase-env ...export HBASE_DISABLE_HADOOP_CLASSPATH_LO ...conf/hbase-site.xml缺省配置参考参考路径创建mkdir -p /home/hadoop/hbase/zookeeper
hd ...进入confcd /usr/local/hbase/conf 
vi ./hbase-sit ...推荐配置<configuration>
        <property>
      ...conf/regionserversvi conf/regionservers,修改内容如下,根据本集群主从机名修改master
c22
c23conf/backup-mastersc22链接hadoop配置ln -s $HADOOP_HOME/etc/hadoop/core-site. ...ulimit 在所有主从机上修改以下两个文件sudo vi  /etc/security/limits.conf在# End of file 行之前插入:
hadoop  -       no ...sudo vi /etc/pam.d/common-sessionsession required  pam_limits.so分发到从机scp   /etc/security/limits.conf c22:/etc ...复制hbase到从机在所有从机上创建目录,设置目录权限:
sudo mkdir -p /usr/lo ...以下指令在master上执行:
scp  -r /usr/local/hbase ...复制/etc/profile到从机 scp  /etc/profile c22:/etc/
 scp  /etc/ ...然后到各从机使用生效配置:
source /etc/profile从机上创建目录mkdir -p /home/hadoop/hbase/zookeeper启动hadoop&Zookeeper(已经启动zookeeper和hadoop的请忽略)
启动顺序
1,启动zkSe ...启动hbase集群在主master上执行bin/start-hbase.sh正常运行截图检查hbase进程jps查看进程master和c22节点上增加了 HMaster、HRegionServer如图如图c23节点上只增加了 HRegionServer如图查看HBase信息master主机http://master:16010/截图截图二http://master:16030/截图一slave从机(备master)http://slave1:16010截图一http://slave1:16030/截图一slave从机http://c22:16010/ 截图http://slave2:16030/截图一停止hbase集群在master执行cd /usr/local/hbase/bin
./hbase-daemon.s ...在slave1(备master) 执行cd /usr/local/hbase/bin
./hbase-daemon.s ...HBase使用HBase的Shell启动Shell hbase shell 截图[hadoop@master bin]$  hbase shell 
HBase ...查看HBase运行状态status运行截图hbase:001:0> status
1 active master, 1 b ...查看版本version运行截图hbase:004:0> version
2.4.13, r90fb1ddc1d ...获得帮助help截图退出ShellexitDDL操作命令DDL(Data Definition Languages)创建表create 't', 'f'hbase:007:0> create 't', 'f'
Created tab ...截图disable 't'hbase:010:0> disable 't'
Took 2.0308 sec ...截图DML操作命令数据操纵语言(Data Manipulation Language, DML)添加数据t.put 'r', 'f', 'v'hbase:012:0> t = create 't', 'f'
Created ...截图获取表get_tablehbase:016:0> tab = get_table 't'
Took 0. ...截图listhbase:019:0> tables = list('t.*')
TABLE
 ...截图运行HBase Shell脚本参考Zookeeper安装参考参考一ZooKeeper、Hadoop、HBase的关闭顺序第1、2点只需要在主节点执行,而第3、4点需要每台机执行。1.先停止HBasestop-hbase.sh2.再停止Hadoopstop-all.sh3.最后停止ZooKeeperzkServer.sh stop log4j2.xmlSince version 3.0.0, HBase has upgraded  ...log4j2参考Log4j 2.13.0 and greater require Java 8. ...其它配置hadoop配置Hadoop’s conf/hdfs-site.xml<property>
  <name>dfs.datanode.max.tran ...常见问题hbase 输入stop-hbase.sh停止不了,一直出现......如图解决先 bin/hbase-daemons.sh stop regionserver后 bin/hbase-daemon.sh stop masterhbase shell中运行异常status 状态查看报异常1ServerNotRunningYetException: Server is  ...截图原因一,可能是hadoop异常原因:
这种情况是由于不正常的关闭hadoop,从而导致hadoop进入了安全模 ...原因二,目录权限修改所有的主从机:
sudo chown hadoop:users -R /us ...原因三,真正原因是
少了配置文件链接hadoop配置ln -s $HADOOP_HOME/etc/hadoop/core-site. ...status状态查看报异常2错误提示:ERROR: KeeperErrorCode = Connection ...错误截图原因分析集群hbase服务是否有启集群zookeeper是否有启创建表报异常在create创建表的时候报错Hbase报错: Master is initia ...截图解决方法:进入zk客户端,把hbase目录删除,重启hbase即可。cd /usr/local/zookeeper/bin/
./zkCli.sh
 ...重启hbase,再次测试创建表
create 'test','info'
lis ...截图报日志异常SLF4J: Failed to load class "org.slf4j.i ...截图http://master:16030/报initializinghttp://master:16030/rs-status显示的内容为:The  ...如图原因一查看hdfs safe mode
hadoop dfsadmin -safemo ...原因二,少了hdfs配置文件链接hadoop配置ln -s $HADOOP_HOME/etc/hadoop/core-site. ...原因三,
需开启hadoop路径lookup解决方式cd /usr/local/hbase/conf
vi ./hbase-env. ...原因四,
zookeeper需关闭sasl认证解决方法cd /usr/local/zookeeper/conf
vi ./zoo.cf ...logs/日志报异常2022-08-27 00:50:56,433 WARN  [RS-EventL ...错误截图hbase2.3.x不兼容hadoop 3.3.x?如https://blog.csdn.net/jinluming19/artic ...当前选择hbase2.4.13出现: Server is not running yet问题当前选择Hadoop 3.3.1启动伪分布式hbase时报错Will not attempt to authenticate
 using  ...版本历史Ver1.5.2-20220914Ver1.6-20221017添加hbase shell上创建表时报master初始化问题Ver1.7-20230514更新hbase版本为2.4.17
hide
第3章HBase环境搭建
Ver1.7-20230514
hide
Zookeeper安装
hide
HBase安装
hide
HBase配置
hide
完全分布式
HBase
hide
HBase使用
hide
常见问题
hide
hbase shell中运行异常