vmware配置hadoop实现伪分布式的图文教程

一、实验环境

编号 项目 软件及版本
1 操作系统 CentOS6
2 环境软件 VMware 12
3 jdk环境 jdk1.8.0_181
4 Hadoop Hadoop2.8.5
5 本机操作系统 win10专业版

二、准备Linux网络环境

1.0点击VMware快捷方式,右键打开文件所在位置 -> 双击vmnetcfg.exe -> VMnet1 host-only ->修改subnet ip 设置网段:192.168.150.0 子网掩码:255.255.255.0 -> apply -> ok

回到windows --> 打开网络和共享中心 -> 更改适配器设置 -> 右键VMnet1 -> 属性 -> 双击IPv4 -> 设置windows的IP:192.168.150.110 子网掩码:255.255.255.0 -> 点击确定

在虚拟软件上 --My Computer -> 选中虚拟机 -> 右键 -> settings -> network adapter -> host only -> ok

三、配置hostname

修改主机名(永久修改)
修改hosts文件

四、修改centos中的IP

通过Linux图形界面进行修改(强烈推荐)

进入Linux图形界面 -> 右键点击右上方的两个小电脑 -> 点击Edit connections -> 选中当前网络System eth0 -> 点击edit按钮 -> 选择IPv4 -> method选择为manual -> 点击add按钮 -> 添加IP:192.168.150.110 子网掩码:255.255.255.0 网关:192.168.150.1 -> apply

五、永久关闭防火墙

查看防火墙状态

停止防火墙

永久关闭防火墙

六、解压jdk

修改环境变量并且source一下

七、解压hadoop

八、修改配置文件(5个)

第一个:hadoop-env.sh ,在/cloud/hadoop-2.8.5/etc/hadoop下面

在大约27行修改,要看行号,可以vi该文件之后,按esc,输入冒号,再输入set nu回车,就有行号了

export JAVA_HOME=/usr/java/jdk1.8.0_181

第二个:core-site.xml

<configuration>
		<!-- 指定HDFS老大(namenode)的通信地址 -->
		<property>
				<name>fs.defaultFS</name>
				<value>hdfs://itcast01:9000</value>
		</property>
		<!-- 指定hadoop运行时产生文件的存储路径 -->
		<property>
				<name>hadoop.tmp.dir</name>
				<value>/cloud/hadoop-2.8.5/tmp</value>
		</property>
	</configuration>

第三个:mapred-site.xml.template 需要重命名: mv mapred-site.xml.template mapred-site.xml

	<configuration>
<!-- 通知框架MR使用YARN -->
<property>
		<name>mapreduce.framework.name</name>
		<value>yarn</value>
</property>
		</configuration>

这里结束之后在输入,修改xml文件名字

mv mapred-site.xml.template mapred-site.xml

第四个:hdfs-site.xml

	<configuration>
<!-- 设置hdfs副本数量 -->
<property>
		<name>dfs.replication</name>
		<value>1</value>
</property>
		</configuration>

第五个:yarn-site.xml

	<configuration>
<!-- reducer取数据的方式是mapreduce_shuffle -->
<property>
	<name>yarn.nodemanager.aux-services</name>
	<value>mapreduce_shuffle</value>
</property>
		</configuration>

九、将hadoop添加到环境变量

vim /etc/profile
	export JAVA_HOME=/usr/java/jdk1.8.0_181
export HADOOP_HOME=/cloud/hadoop-2.8.5
export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin

		source /etc/profile

十、格式化HDFS(namenode)第一次使用时要格式化(忘记截图了)

hadoop namenode -format

十一、启动hadoop

启动start-all
在/cloud/hadoop/sbin/下
输入./start-all.sh

然后不停的输入密码和yes

十二、输入jps查看是否配置成功

红框中的东西,一共6个,缺一不可,不然就是有东西没配置好,根据周边同学经验,要么网络没配置好,要么上面5个配置文件没写好,实在找不到,最简单粗暴麻烦但是有效的方法,从头装机再来吧,我是一口气成功。

进入centos中的浏览器

从浏览器中输入centos 的ip端口号50070看到下图

从浏览器输入centos的ip端口号8088出现下图,成功

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持我们。

(0)

相关推荐

  • VMware虚拟机下hadoop1.x的安装方法

    这是Hadoop学习全程记录第1篇,在这篇里我将介绍一下如何在Linux下安装Hadoop1.x. 先说明一下我的开发环境: 虚拟机:VMware8.0: 操作系统:CentOS6.4: 版本:jdk1.8:hadoop1.2.1 ①下载hadoop1.2.1,网盘:链接: https://pan.baidu.com/s/1sl5DMIp 密码: 5p67 下载jdk1.8,网盘:链接: https://pan.baidu.com/s/1boN1gh5 密码: t36h 将 jdk-8u144-

  • 详解VMware12使用三台虚拟机Ubuntu16.04系统搭建hadoop-2.7.1+hbase-1.2.4(完全分布式)

    初衷 首先说明一下既然网上有那么多教程为什么要还要写这样一个安装教程呢?网上教程虽然多,但是有些教程比较老,许多教程忽略许多安装过程中的细节,比如添加用户的权限,文件权限,小编在安装过程遇到许多这样的问题所以想写一篇完整的教程,希望对初学Hadoop的人有一个直观的了解,我们接触真集群的机会比较少,虚拟机是个不错的选择,可以基本完全模拟真实的情况,前提是你的电脑要配置相对较好不然跑起来都想死,废话不多说. 环境说明 本文使用VMware® Workstation 12 Pro虚拟机创建并安装三台

  • vmware配置hadoop实现伪分布式的图文教程

    一.实验环境 编号 项目 软件及版本 1 操作系统 CentOS6 2 环境软件 VMware 12 3 jdk环境 jdk1.8.0_181 4 Hadoop Hadoop2.8.5 5 本机操作系统 win10专业版 二.准备Linux网络环境 1.0点击VMware快捷方式,右键打开文件所在位置 -> 双击vmnetcfg.exe -> VMnet1 host-only ->修改subnet ip 设置网段:192.168.150.0 子网掩码:255.255.255.0 ->

  • VMware + Ubuntu18.04 搭建Hadoop集群环境的图文教程

    目录 前言 VMware克隆虚拟机(准备工作,克隆3台虚拟机,一台master,两台node) 1.创建Hadoop用户(在master,node1,node2执行) 2.更新apt下载源(在master,node1,node2执行) 3. 安装SSH.配置SSH免密登录 (在master,node1,node2执行) 4.安装Java环境 (在master,node1,node2执行) 修改主机名(在master,node1,node2执行) 修改IP映射(在master,node1,node

  • VMWare Workstation虚拟机访问外网的图文教程

    平时在使用虚拟机的时候都没有使用外网的需求,这次配置ceph的时候,快速安装ceph需要使用外网,突然发觉上不了网,经过网络上的学习,整理一下内容. 用的NAT模式,以前我一直以为这个是与主机进行网络交换的,想访问外网需要将网关设置成这里显示的.其实并不是,这个仅仅是主机与虚拟机进行数据交换,而虚拟机中需要访问外网走的网关是在vmware中设置,如下图: 这个页面是在"编辑"中. 点击更改设置后,出现: 在点击NAT设置: 在虚拟机中的操作系统的网关就需要与这个一致. 我的操作系统是C

  • Windows Server 2008 R2 下配置证书服务器和HTTPS的图文教程

    前言 2017年1月1日起App Store上的所有App应用将强制开启ATS功能. 苹果的ATS(App Transport Security)对服务器硬性3点要求: ① ATS要求TLS1.2或者更高,TLS 是 SSL 新的别称. ② 通讯中的加密套件配置要求支持列出的正向保密. ③ 数字证书必须使用sha256或者更高级的签名哈希算法,并且保证密钥是2048位及以上的RSA密钥或者256位及以上的ECC密钥. 配置环境 Windows版本:Windows Server 2008 R2 E

  • Linux 7.4上安装配置Oracle 11.2.0.4图文教程

    1. 配置Yum源及关闭SeLinux [root@localhost ~]# mkdir /media/rhel [root@localhost ~]# mount /dev/cdrom /media/rhel mount: /dev/sr0 is write-protected, mounting read-only [root@localhost ~]# vi /etc/yum.repos.d/iso.repo [iso] name=iso baseurl=file:///media/rh

  • 配置 Pycharm 默认 Test runner 的图文教程

    如下所示: 由图中可见,当前使用的是 unittest 测试框架 修改方式如下: 以上这篇配置 Pycharm 默认 Test runner 的图文教程就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持我们.

  • 阿里云Nginx配置https实现域名访问项目(图文教程)

    第一步:签署第三方可信任的 SSL 证书 证书可以直接在阿里云里面申请免费的ssl证书 登录阿里云账号,在上方搜索栏内搜索ssl,点击ssl证书(应用安全) 来到这个页面后点击购买证书 如图选择免费版ssl证书,点击支付 支付完成后跳转到控制台首页,点击证书申请 填写完证书申请表单之后点击下一步 点击验证显示验证成功后再提交审核 审核通过后点击下载按钮 选择nginx旁边的下载 下载解压后得到一个.key和.pem文件,到这里,我们的证书申请工作已经做完了,下面可以开始配置https了 第二步:

  • VMware虚拟机安装Ubuntu 2022最新版图文教程

    目录 一.简单介绍 二.安装虚拟机VMware 三.Ubuntu镜像下载 四.虚拟机VMware配置及运行 一.简单介绍 ①走进Ubuntu Ubuntu是一个以桌面应用为主的Linux操作系统,其名称来自非洲南部祖鲁语或豪萨语的“ubuntu"一词,意思是“人性”“我的存在是因为大家的存在",是非洲传统的一种价值观. ②Ubuntu特点 Ubuntu在桌面办公.服务器方面有着不俗的表现,总能够将最新的应用特性囊括其中. 主要包括以下几方面: 桌面系统使用最新的Gnome.KDE.Xf

  • 非集成环境的php运行环境(Apache配置、Mysql)搭建安装图文教程

    本文为大家分享了php运行环境搭建安装图文教程,供大家参考,具体内容如下 安装apache: 1,不要安装到有中文的目录中: 2,尽量将apache,php,mysql安装到一个总的目录,便于管理. 3,尽量将之前安装的amp集成安装环境删除,并删除已经配置的环境变量: 此处是服务器名称的设置,可以随便输入,完成之后可用IP或者localhost来进行访问, 邮箱随便填写,保证邮箱格式的正确 apache安装后的默认主页(站点)的位置为: apache的安装位置/htdocs/ localhos

  • VMware esxi 5.1安装配置的方法和设置步骤图文教程

    Vmware对于用户来说已经很熟悉,vmware esxi又叫(VMware vSphere Hypervisor),VMware ESxi是VMware ESX的精简免费版,并且安装配置非常便捷简单,所以被很多用户所青睐,正睿作为VMware的合作伙伴,今天就来与大家分享一下VMware esxi 5.1虚拟机的安装和设置. 一.VMware esxi 5.1详细安装配置注意 安装前注意: 在安装VMware esxi 5.1之前,也确认主机符合VMware esxi 5.1支持的最低硬件配置

随机推荐