本文目录导读:
Hadoop作为一款分布式存储和计算框架,已成为大数据处理领域的首选,本文将详细介绍如何在虚拟机中安装Hadoop,帮助您轻松入门大数据处理。
准备工作
1、硬件要求
(1)CPU:至少2核处理器
图片来源于网络,如有侵权联系删除
(2)内存:至少4GB内存(推荐8GB以上)
(3)硬盘:至少20GB空闲空间
2、软件要求
(1)操作系统:Windows、Linux、macOS等均可
(2)虚拟机软件:VMware、VirtualBox等均可
(3)Java环境:JDK 1.8或更高版本
安装步骤
1、创建虚拟机
(1)打开虚拟机软件,创建一个新的虚拟机
(2)选择操作系统类型和版本,如Linux(推荐CentOS 7)
(3)设置虚拟机内存和CPU,确保满足硬件要求
(4)设置虚拟硬盘大小,至少20GB
(5)点击“创建”完成虚拟机创建
2、安装操作系统
(1)启动虚拟机,选择“安装Linux系统”
(2)按照提示完成安装过程
3、配置网络
(1)进入虚拟机,使用root用户登录
图片来源于网络,如有侵权联系删除
(2)编辑网络配置文件:vi /etc/sysconfig/network-scripts/ifcfg-ens33(根据实际网卡名称修改)
(3)将ONBOOT设置为yes,并设置IP地址、网关、DNS等信息
(4)重启网络服务:service network restart
4、安装Java环境
(1)下载JDK安装包:http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html
(2)解压安装包:tar -zxvf jdk-8uXXX-linux-x64.tar.gz
(3)配置环境变量:vi /etc/profile
(4)添加以下内容:
export JAVA_HOME=/usr/local/jdk1.8.0_XXX export PATH=$PATH:$JAVA_HOME/bin
(5)使环境变量生效:source /etc/profile
(6)验证Java环境:java -version
5、下载Hadoop安装包
(1)下载Hadoop安装包:https://www.apache.org/dyn/closer.cgi/hadoop/common/hadoop-3.2.1/hadoop-3.2.1.tar.gz
(2)上传安装包到虚拟机:使用SFTP或SCP等工具将安装包上传到虚拟机
6、解压Hadoop安装包
(1)解压安装包:tar -zxvf hadoop-3.2.1.tar.gz
(2)重命名解压后的文件夹:mv hadoop-3.2.1 hadoop
7、配置Hadoop
图片来源于网络,如有侵权联系删除
(1)编辑Hadoop配置文件:vi /etc/hadoop/hadoop-env.sh
(2)设置JAVA_HOME:JAVA_HOME=/usr/local/jdk1.8.0_XXX
(3)编辑Hadoop核心配置文件:vi /etc/hadoop/core-site.xml
(4)添加以下内容:
<configuration> <property> <name>fs.defaultFS</name> <value>hdfs://localhost:9000</value> </property> </configuration>
(5)编辑HadoopHDFS配置文件:vi /etc/hadoop/hdfs-site.xml
(6)添加以下内容:
<configuration> <property> <name>dfs.replication</name> <value>1</value> </property> </configuration>
(7)编辑HadoopYARN配置文件:vi /etc/hadoop/yarn-site.xml
(8)添加以下内容:
<configuration> <property> <name>yarn.resourcemanager.hostname</name> <value>localhost</value> </property> </configuration>
8、格式化HDFS
(1)进入Hadoop目录:cd /usr/local/hadoop
(2)执行格式化命令:bin/hdfs format
9、启动Hadoop服务
(1)启动HDFS:bin/start-dfs.sh
(2)启动YARN:bin/start-yarn.sh
(3)验证服务是否启动:浏览器访问http://localhost:9870/ 和 http://localhost:8088/
本文详细介绍了在虚拟机中安装Hadoop的步骤,包括创建虚拟机、安装操作系统、配置网络、安装Java环境、下载Hadoop安装包、解压安装包、配置Hadoop、格式化HDFS以及启动Hadoop服务,通过学习本文,您可以轻松入门Hadoop,为大数据处理打下基础。
标签: #虚拟机安装hadoop
评论列表