本文目录导读:
Hadoop作为一款开源的大数据处理框架,已成为当今大数据领域的主流技术之一,本文将详细介绍在虚拟机中安装Hadoop的详细步骤,旨在帮助读者快速掌握Hadoop的安装与配置,为后续的大数据处理工作奠定基础。
安装环境
1、操作系统:CentOS 7.0(或其他Linux发行版)
图片来源于网络,如有侵权联系删除
2、虚拟机软件:VMware Workstation 15
3、Hadoop版本:Hadoop 3.2.1
安装步骤
1、创建虚拟机
(1)打开VMware Workstation,点击“创建新的虚拟机”;
(2)选择“自定义(高级)”,点击“下一步”;
(3)选择“Linux”,在“版本”中选择“CentOS 7.0 64位”,点击“下一步”;
(4)设置虚拟机名称、存储位置,点击“下一步”;
(5)设置虚拟机CPU、内存等硬件参数,点击“下一步”;
(6)设置虚拟硬盘,选择“分配所有磁盘空间现在(推荐)”,点击“下一步”;
(7)设置虚拟机网络,选择“桥接模式”,点击“下一步”;
(8)设置I/O控制器,选择“SCSI(推荐)”,点击“下一步”;
(9)设置CD/DVD驱动器,选择“使用ISO镜像文件”,点击“浏览”并选择CentOS 7.0安装镜像,点击“确定”;
(10)点击“完成”,启动虚拟机,开始安装CentOS 7.0。
2、安装CentOS 7.0
图片来源于网络,如有侵权联系删除
(1)进入CentOS 7.0安装界面,选择“中文”作为语言,点击“下一步”;
(2)选择“安装源”,选择“使用ISO镜像”,点击“下一步”;
(3)选择“软件包选择”,选择“最小安装”,点击“下一步”;
(4)设置主机名、root密码、创建用户,点击“下一步”;
(5)设置时区,点击“下一步”;
(6)分区,选择“将所有空间用于/”,点击“下一步”;
(7)开始安装,等待安装完成。
3、安装JDK
(1)打开终端,输入以下命令,安装JDK:
sudo yum install -y java-1.8.0-openjdk java-1.8.0-openjdk-devel
(2)验证JDK安装:
java -version
4、安装Hadoop
(1)下载Hadoop 3.2.1安装包,解压到虚拟机中:
sudo tar -zxvf hadoop-3.2.1.tar.gz -C /opt
(2)设置环境变量:
sudo vi /etc/profile
在文件末尾添加以下内容:
图片来源于网络,如有侵权联系删除
export HADOOP_HOME=/opt/hadoop-3.2.1 export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
保存并退出编辑器,执行以下命令使环境变量生效:
source /etc/profile
5、配置Hadoop
(1)进入Hadoop配置目录:
cd $HADOOP_HOME/etc/hadoop
(2)编辑hadoop-env.sh
文件,设置JDK路径:
export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk-1.8.0.252.x86_64
(3)编辑core-site.xml
文件,配置Hadoop运行环境:
<configuration> <property> <name>fs.defaultFS</name> <value>hdfs://master:8020</value> </property> <property> <name>hadoop.tmp.dir</name> <value>/opt/hadoop-3.2.1/tmp</value> </property> </configuration>
(4)编辑hdfs-site.xml
文件,配置HDFS存储:
<configuration> <property> <name>dfs.replication</name> <value>1</value> </property> </configuration>
(5)编辑mapred-site.xml
文件,配置MapReduce运行环境:
<configuration> <property> <name>mapreduce.framework.name</name> <value>yarn</value> </property> </configuration>
(6)编辑yarn-site.xml
文件,配置YARN运行环境:
<configuration> <property> <name>yarn.resourcemanager.host</name> <value>master</value> </property> </configuration>
6、格式化HDFS
hdfs namenode -format
7、启动Hadoop服务
start-dfs.sh start-yarn.sh
8、验证Hadoop安装
在浏览器中输入http://master:8088/
,查看HDFS Web界面;在浏览器中输入http://master:8048/
,查看YARN Web界面。
通过以上步骤,您已成功在虚拟机中安装了Hadoop,您可以开始使用Hadoop进行大数据处理了,在后续的学习过程中,请关注Hadoop的各个组件及其应用场景,不断丰富自己的大数据知识体系。
标签: #虚拟机安装hadoop
评论列表