Hadoop学习指南：探索大数据时代的重要组成——Hadoop运行模式(上）

IT知识
300
0
0
2024-05-25
Hadoop学习指南：探索大数据时代的重要组成——Hadoop运行模式(下）
上一篇
Hadoop学习指南：探索大数据时代的重要组成——运行环境搭建
下一篇
标签   大数据 Hadoop
Hadoop运行模式

前言

今天我们具体来介绍一下Hadoop的运行模式具体内容移步正文。

Hadoop运行模式

1）Hadoop 官方网站：http://hadoop.apache.org/ 2）Hadoop 运行模式包括：本地模式、伪分布式模式以及完全分布式模式。 ➢ 本地模式：单机运行，只是用来演示一下官方案例。==生产环境不用。 == ➢ 伪分布式模式：也是单机运行，但是具备Hadoop集群的所有功能，一台服务器模 拟一个分布式的环境。==个别缺钱的公司用来测试，生产环境不用。 == ➢ 完全分布式模式：多台服务器组成分布式环境。==生产环境使用。 ==

1 本地运行模式（官方WordCount）

1）创建在hadoop-3.1.3文件下面创建一个wcinput文件夹

[atguigu@hadoop102 hadoop-3.1.3]$ mkdir wcinput

2）在wcinput文件下创建一个word.txt文件

[atguigu@hadoop102 hadoop-3.1.3]$ cd wcinput

3）编辑word.txt文件

[atguigu@hadoop102 wcinput]$ vim word.txt

➢ 在文件中输入如下内容

hadoop yarn 
hadoop mapreduce 
atguigu 
atguigu

➢ 保存退出：:wq 4）回到Hadoop目录/opt/module/hadoop-3.1.3 5）执行程序

[atguigu@hadoop102 hadoop-3.1.3]$ hadoop jar 
share/hadoop/mapreduce/hadoop-mapreduce-examples3.1.3.jar 
wordcount wcinput wcoutput

6）查看结果

[atguigu@hadoop102 hadoop-3.1.3]$ cat wcoutput/part-r-00000 
看到如下结果： 
atguigu 2 
hadoop  2 
mapreduce       1 
yarn    1

2 完全分布式运行模式（开发重点）

分析： 1）准备3台客户机（关闭防火墙、静态IP、主机名称） 2）安装JDK 3）配置环境变量 4）安装Hadoop 5）配置环境变量 6）配置集群 7）单点启动 8）配置ssh 9）群起并测试集群

2.1 虚拟机准备

详细看这篇文章Hadoop学习指南：探索大数据时代的重要组成——运行环境搭建

2.2 编写集群分发脚本xsync
1）scp（secure copy）安全拷贝

（1）scp定义 scp 可以实现服务器与服务器之间的数据拷贝。（from server1 to server2） （2）基本语法

scp

-r

$pdir/ $fname

$ user@$ host: $ pdir/$fname

命令

递归

要拷贝的文件路径/名称

目的地用户@主机:目的地路径/名称

（3）案例实操 ➢ 前提：在 hadoop102、hadoop103、hadoop104 都已经创建好的/opt/module、 /opt/software 两个目录，并且已经把这两个目录修改为atguigu:atguigu

[atguigu@hadoop102 ~]$ sudo chown atguigu:atguigu -R 
/opt/module

（a）在 hadoop102 上，将 hadoop102 中/opt/module/jdk1.8.0_212 目录拷贝到 hadoop103 上。

[atguigu@hadoop102 ~]$ scp -r/opt/module/jdk1.8.0_212  
atguigu@hadoop103:/opt/module

（b）在 hadoop103 上，将 hadoop102 中/opt/module/hadoop-3.1.3 目录拷贝到 hadoop103 上。

[atguigu@hadoop103 ~]$ scp 
atguigu@hadoop102:/opt/module/hadoop-3.1.3 /opt/module/ -r

（c）在 hadoop103 上操作，将 hadoop102 中/opt/module 目录下所有目录拷贝到 hadoop104 上。

[atguigu@hadoop103 opt]$ scp -r 
atguigu@hadoop102:/opt/module/* 
atguigu@hadoop104:/opt/module
2）rsync 远程同步工具

rsync 主要用于备份和镜像。具有速度快、避免复制相同内容和支持符号链接的优点。 rsync 和 scp 区别：用 rsync 做文件的复制要比scp的速度快，rsync只对差异文件做更 新。scp是把所有文件都复制过去。 （1）基本语法

rsync

-av

$ pdir/$fname

$ user@$ host: $ pdir/$fname

命令

选项参数

要拷贝的文件路径/名称

目的地用户@主机:目的地路径/名称

选项参数说明

选项

功能

-a

归档拷贝

-v

显示复制过程

（2）案例实操 显示复制过程 （a）删除hadoop103中/opt/module/hadoop-3.1.3/wcinput

[atguigu@hadoop103 hadoop-3.1.3]$ rm -rf wcinput/

（b）同步hadoop102中的/opt/module/hadoop-3.1.3 到

hadoop103 
[atguigu@hadoop102 
module]$ 
rsync -av 
atguigu@hadoop103:/opt/module/hadoop-3.1.3/ 
hadoop-3
3）xsync 集群分发脚本

（1）需求：循环复制文件到所有节点的相同目录下 （2）需求分析： （a）rsync 命令原始拷贝：

rsync  -av     /opt/module

（b）期望脚本： xsync 要同步的文件名称 atguigu@hadoop103:/opt/ （c）期望脚本在任何路径都能使用（脚本放在声明了全局环境变量的路径）

[atguigu@hadoop102 ~]$ echo $PATH 
/usr/local/bin:/usr/bin:/usr/local/sbin:/usr/sbin:/home/atgu
 igu/.local/bin:/home/atguigu/bin:/opt/module/jdk1.8.0_212/bi
 n

（3）脚本实现 （a）在/home/atguigu/bin 目录下创建 xsync 文件

[atguigu@hadoop102 opt]$ cd /home/atguigu 
[atguigu@hadoop102 ~]$ mkdir bin 
[atguigu@hadoop102 ~]$ cd bin 
[atguigu@hadoop102 bin]$ vim xsync

在该文件中编写如下代码

#!/bin/bash 
#1. 判断参数个数 
if [ $# -lt 1 ] 
then 
echo Not Enough Arguement! 
exit; 
fi 
#2. 遍历集群所有机器 
for host in hadoop102 hadoop103 hadoop104 
do 
    echo ====================  $host  ==================== 
    #3. 遍历所有目录，挨个发送 
 
    for file in $@ 
    do 
        #4. 判断文件是否存在 
        if [ -e $file ] 
            then 
                #5. 获取父目录 
                pdir=$(cd -P $(dirname $file); pwd) 
 
                #6. 获取当前文件的名称 
                fname=$(basename $file) 
                ssh $host "mkdir -p $pdir" 
                rsync -av $pdir/$fname $host:$pdir 
            else 
                echo $file does not exists! 
        fi 
    done 
done

（b）修改脚本 xsync 具有执行权限

[atguigu@hadoop102 bin]$ chmod +x xsync

（c）测试脚本

[atguigu@hadoop102 ~]$ xsync /home/atguigu/bin

（d）将脚本复制到/bin中，以便全局调用

[atguigu@hadoop102 bin]$ sudo cp xsync /bin/

（e）同步环境变量配置（root所有者）

[atguigu@hadoop102 ~]$ sudo ./bin/xsync 
/etc/profile.d/my_env.sh

==注意：如果用了sudo，那么xsync一定要给它的路径补全。 == 让环境变量生效

[atguigu@hadoop103 bin]$ source /etc/profile 
[atguigu@hadoop104 opt]$ source /etc/profile
2.3 SSH无密登录配置
1）配置ssh

（1）基本语法 ssh另一台电脑的IP地址 （2）ssh连接时出现Host key verification failed的解决方法

[atguigu@hadoop102 ~]$ ssh hadoop103

➢ 如果出现如下内容

Are you sure you want to continue connecting (yes/no)?

➢ 输入yes，并回车 （3）退回到hadoop102

[atguigu@hadoop103 ~]$ exit
2）无密钥配置

（1）免密登录原理

在这里插入图片描述

（2）生成公钥和私钥

[atguigu@hadoop102 .ssh]$ pwd 
/home/atguigu/.ssh 
[atguigu@hadoop102 .ssh]$ ssh-keygen -t rsa

然后敲（三个回车），就会生成两个文件id_rsa（私钥）、id_rsa.pub（公钥） （3）将公钥拷贝到要免密登录的目标机器上

[atguigu@hadoop102 .ssh]$ ssh-copy-id hadoop102 
[atguigu@hadoop102 .ssh]$ ssh-copy-id hadoop103 
[atguigu@hadoop102 .ssh]$ ssh-copy-id hadoop104

==注意： 还需要在hadoop103 上采用 atguigu 账号配置一下无密登录到 hadoop102、hadoop103、 hadoop104 服务器上。 还需要在hadoop104 上采用 atguigu 账号配置一下无密登录到 hadoop102、hadoop103、 hadoop104 服务器上。 还需要在hadoop102 上采用 root 账号，配置一下无密登录到hadoop102、hadoop103、 hadoop104； ==

3）.ssh 文件夹下（~/.ssh）的文件功能解释

known_hosts

记录ssh访问过计算机的公钥（public key）

id_rsa

生成的私钥

id_rsa.pub

生成的公钥

authorized_keys

存放授权过的无密登录服务器公钥

2.4 集群配置
1）集群部署规划

注意： ➢ NameNode和SecondaryNameNode 不要安装在同一台服务器 ➢ ResourceManager 也很消耗内存，不要和NameNode、SecondaryNameNode配置在 同一台机器上。

NULL

hadoop102

hadoop103

hadoop104

HDFS

NameNode DataNode

DataNode

SecondaryNameNode DataNode

YARN

NodeManager

ResourceManager NodeManager

NodeManager

2）配置文件说明

Hadoop 配置文件分两类：默认配置文件和自定义配置文件，只有用户想修改某一默认 配置值时，才需要修改自定义配置文件，更改相应属性值。 （1）默认配置文件：

在这里插入图片描述

（2）自定义配置文件： core-site.xml、hdfs-site.xml、yarn-site.xml、mapred-site.xml 四个配置文件存放在 $HADOOP_HOME/etc/hadoop 这个路径上，用户可以根据项目需求重新进行修改配置。

3）配置集群

（1）核心配置文件 配置core-site.xml

[atguigu@hadoop102 ~]$ cd $HADOOP_HOME/etc/hadoop
[atguigu@hadoop102 hadoop]$ vim core-site.xml

文件内容如下：

<?xml version="1.0" encoding="UTF-8"?> 
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?> 
 
<configuration> 
    <!-- 指定NameNode的地址 --> 
    <property> 
        <name>fs.defaultFS</name> 
        <value>hdfs://hadoop102:8020</value> 
    </property> 
 
    <!-- 指定hadoop数据的存储目录 --> 
    <property> 
        <name>hadoop.tmp.dir</name> 
        <value>/opt/module/hadoop-3.1.3/data</value> 
    </property> 
 
    <!-- 配置HDFS网页登录使用的静态用户为atguigu --> 
    <property> 
        <name>hadoop.http.staticuser.user</name> 
        <value>atguigu</value> 
    </property> 
</configuration>

（2）HDFS配置文件 配置hdfs-site.xml

[atguigu@hadoop102 hadoop]$ vim hdfs-site.xml

文件内容如下：

<?xml version="1.0" encoding="UTF-8"?> 
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?> 
 
<configuration> 
 <!-- nn web端访问地址--> 
 <property> 
        <name>dfs.namenode.http-address</name> 
        <value>hadoop102:9870</value> 
    </property> 
 <!-- 2nn web端访问地址--> 
    <property> 
        <name>dfs.namenode.secondary.http-address</name> 
        <value>hadoop104:9868</value> 
    </property> 
</configuration>

（3）YARN配置文件 配置yarn-site.xml

[atguigu@hadoop102 hadoop]$ vim yarn-site.xml

文件内容如下：

<?xml version="1.0" encoding="UTF-8"?> 
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?> 
<configuration> 
    <!-- 指定MR走shuffle --> 
    <property> 
        <name>yarn.nodemanager.aux-services</name> 
        <value>mapreduce_shuffle</value> 
    </property> 
 
    <!-- 指定ResourceManager的地址--> 
    <property> 
        <name>yarn.resourcemanager.hostname</name> 
        <value>hadoop103</value> 
    </property> 
 
    <!-- 环境变量的继承 --> 
    <property> 
        <name>yarn.nodemanager.env-whitelist</name> 
        
<value>JAVA_HOME,HADOOP_COMMON_HOME,HADOOP_HDFS_HOME,HADOOP_CO
 NF_DIR,CLASSPATH_PREPEND_DISTCACHE,HADOOP_YARN_HOME,HADOOP_MAP
 RED_HOME</value> 
    </property> 
</configuration>

（4）MapReduce配置文件 配置mapred-site.xml

[atguigu@hadoop102 hadoop]$ vim mapred-site.xml

文件内容如下：

<?xml version="1.0" encoding="UTF-8"?> 
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?> 
 
<configuration> 
 <!-- 指定MapReduce程序运行在Yarn上 --> 
    <property> 
        <name>mapreduce.framework.name</name> 
        <value>yarn</value> 
    </property> 
</configuration>
4）在集群上分发配置好的Hadoop配置文件
[atguigu@hadoop102 hadoop]$ xsync /opt/module/hadoop
3.1.3/etc/hadoop/
5）去103和104上查看文件分发情况
[atguigu@hadoop103 ~]$ cat /opt/module/hadoop
3.1.3/etc/hadoop/core-site.xml 
[atguigu@hadoop104 ~]$ cat /opt/module/hadoop
3.1.3/etc/hadoop/core-site.xml
2.5 群起集群
1）配置workers
[atguigu@hadoop102 hadoop]$ vim /opt/module/hadoop
3.1.3/etc/hadoop/workers

在该文件中增加如下内容：

hadoop102 hadoop103 hadoop104

==注意：该文件中添加的内容结尾不允许有空格，文件中不允许有空行。 == 同步所有节点配置文件

[atguigu@hadoop102 hadoop]$ xsync /opt/module/hadoop-3.1.3/etc
2）启动集群

（1）如果集群是第一次启动，需要在hadoop102 节点格式化NameNode（注意：格式 化NameNode，会产生新的集群id，导致NameNode和DataNode的集群id不一致，集群找 不到已往数据。如果集群在运行过程中报错，需要重新格式化NameNode的话，一定要先停 止namenode 和 datanode 进程，并且要删除所有机器的data 和 logs 目录，然后再进行格式 化。）

[atguigu@hadoop102 hadoop-3.1.3]$ hdfs namenode -format

（2）启动HDFS

[atguigu@hadoop102 hadoop-3.1.3]$ sbin/start-dfs.sh

（3）在配置了ResourceManager的节点（hadoop103）启动YARN

[atguigu@hadoop103 hadoop-3.1.3]$ sbin/start-yarn.sh

（4）Web端查看HDFS的NameNode （a）浏览器中输入：http://hadoop102:9870 （b）查看HDFS上存储的数据信息 （5）Web端查看YARN的ResourceManager （a）浏览器中输入：http://hadoop103:8088 （b）查看YARN上运行的Job信息

3）集群基本测试

（1）上传文件到集群 ➢ 上传小文件

[atguigu@hadoop102 ~]$ hadoop fs -mkdir /input 
[atguigu@hadoop102 
~]$ 
hadoop 
$HADOOP_HOME/wcinput/word.txt /input 
fs -put

➢ 上传大文件

[atguigu@hadoop102 ~]$ hadoop fs -put  /opt/software/jdk-8u212
linux-x64.tar.gz  /

（2）上传文件后查看文件存放在什么位置 ➢ 查看HDFS文件存储路径

[atguigu@hadoop102 subdir0]$ pwd 
/opt/module/hadoop-3.1.3/data/dfs/data/current/BP-1436128598
192.168.10.102-1610603650062/current/finalized/subdir0/subdir0

➢ 查看HDFS在磁盘存储文件内容

[atguigu@hadoop102 subdir0]$ cat blk_1073741825 
hadoop yarn 
hadoop mapreduce  
atguigu 
atguigu

（3）拼接

  • -rw-rw-r–. 1 atguigu atguigu 134217728 5 月 23 16:01 blk_1073741836
  • -rw-rw-r–. 1 atguigu atguigu 1048583 5 月 23 16:01 blk_1073741836_1012.meta
  • -rw-rw-r–. 1 atguigu atguigu 63439959 5 月 23 16:01 blk_1073741837
  • -rw-rw-r–. 1 atguigu atguigu 495635 5 月 23 16:01 blk_1073741837_1013.meta
[atguigu@hadoop102 subdir0]$ cat blk_1073741836>>tmp.tar.gz 
[atguigu@hadoop102 subdir0]$ cat blk_1073741837>>tmp.tar.gz 
[atguigu@hadoop102 subdir0]$ tar -zxvf tmp.tar.gz

（4）下载

[atguigu@hadoop104 software]$ hadoop fs -get /jdk-8u212-linux
x64.tar.gz ./

（5）执行wordcount程序

[atguigu@hadoop102 
hadoop-3.1.3]$ 
hadoop 
jar 
share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.3.jar 
wordcount /input /output
Hadoop学习指南：探索大数据时代的重要组成——Hadoop运行模式(下）
上一篇
Hadoop学习指南：探索大数据时代的重要组成——运行环境搭建
下一篇