ubuntu15.10下hadoop2.7.2的安装与配置详解

网上和很多书上都有不少的hadoop在linux系统下的安装教程,但是尝试过的读者会发现,就算是按照这些教程一步步的操作,还是会在某个地方出错,主要原因是版本问题。尤其是书上的版本一般都较老,所以并不建议对着书上的教程来操作,但是可以作为参考。下面给出我自己亲身实践的安装过程,尽量把我知道的原理也写出来,这样就算有些步骤出现问题,知道了原因也是很容易解决的,就怕出现问题了,还不知道问题出在哪?

下面的代码都是在ubuntu的命令窗口(terminal)中输入:

1.工具准备:

1.1 更新apt-get:在命令行窗口中使用apt-get安装软件很方便;

sudo apt-get update

1.2 安装vim:配置文件。

sudo apt-get install vim

根据输出结果,需要输入“Y”来继续。

2.创建hadoop用户:

2.1增加hadoop用户:创建 hadoop 用户,并使用 /bin/bash 作为 shell

sudo useradd -m hadoop -s /bin/bash

2.2设置密码,按提示输入两次密码:

sudo passwd hadoop

2.3为 hadoop 用户增加管理员权限:

sudo adduser hadoop sudo

3.安装SSH、配置SSH无密码登陆

集群、单节点模式都需要用到 SSH 登陆(类似于远程登陆,你可以登录某台 Linux 主机,并且在上面运行命令),Ubuntu 默认已安装了 SSH client,此外还需要安装 SSH server:

sudo apt-get install openssh-server

安装后,可以使用如下命令登陆本机:

ssh localhost

4.安装java环境

4.1安装jdk:

sudo apt-get install openjdk-8-jre openjdk-8-jdk

4.2配置JAVA_HOME

dpkg -L openjdk-8-jdk | grep '/bin/javac'

该命令会输出一个路径,除去路径末尾的 “/bin/javac”,剩下的就是正确的路径了。如输出路径为 /usr/lib/jvm/java-8-openjdk/bin/javac,则我们需要的路径为 /usr/lib/jvm/java-8-openjdk。

如果这里输出错误,那我们怎么知道JAVA_HOME的地址呢?很简单,输入:

java -verbose

输出:usr/lib/jvm/java-8-openjdk/jre/lib/rt.jar

则前面的usr/lib/jvm/java-8-openjdk就是JAVA_HOME的地址。

然后,使用命令 sudo gedit /etc/profile 打开 /etc/profile 文件:

sudo gedit /etc/profile

然后在文件末尾添加如下三行:

export JAVA_HOME=/usr/lib/jvm/java-8-openjdk
CLASSPATH=.:$JAVA_HOME/lib:$JAVA_HOME/jre/lib:$CLASSPATH
export PATH=$JAVA_HOME/bin:$JAVA_HOME/jre/bin:$PATH

然后ctrl+s保存。然后执行如下代码,使更改生效:

$source ~/.bashrc

如果JAVA_HOME还是没有更改过来,可能是文件没有生效,运行

$source /etc/profile

再查看JAVA_HOME,可以发现是我们在文件中设置的路径。

如果上面设置正确的话,$JAVA_HOME/bin/java -version 会输出 java 的版本信息,且和 java -version 的输出结果一样,如下图所示,则配置成功:

5.安装Hadoop

5.1hadoop程序下载:http://mirror.bit.edu.cn/apache/hadoop/common/

建议选择下载 “stable” 下的 hadoop-2.x.y.tar.gz 。

5.2 hadoop安装

输入命令:

sudo tar -zxf ~/Downloads/hadoop-2.7.2.tar.gz -C /usr/local
cd /usr/local/
sudo mv ./hadoop-2.7.2/ ./hadoop
sudo chown -R hadoop ./hadoop

Hadoop 解压后即可使用。输入如下命令来检查 Hadoop 是否可用,成功则会显示 Hadoop 版本信息:

cd /usr/local/hadoop
./bin/hadoop version

5.3 hadoop单击配置

Hadoop 默认模式为非分布式模式,无需进行其他配置即可运行。非分布式即单 Java 进程,方便进行调试。

配置尚未完成,由于近期较忙,过两天闲下来了再配置。

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对我们的支持。如果你想了解更多相关内容请查看下面相关链接

(0)

相关推荐

  • ubuntu16.04搭建nfs服务的方法

    NFS简介 NFS(Network File System)即网络文件系统,是FreeBSD支持的文件系统中的一种,它允许网络中的计算机之间通过TCP/IP网络共享资源.在NFS的应用中,本地NFS的客户端应用可以透明地读写位于远端NFS服务器上的文件,就像访问本地文件一样. nfs服务是实现Linux和Linux之间的文件共享,nfs服务的搭建比较简单. 现在介绍如何在ubuntu16.04系统中搭建nfs服务,ubuntu的搭建比红帽的还要简单. Ubuntu配置NFS的方法 1.安装nfs

  • 使用命令行检测Ubuntu版本方法

    方法一:使用lsb_release实用程序 lsb_release实用程序可以显示有关Linux发行版的LSB(Linux标准库)信息.它是检查Ubuntu版本的首选方法,无论运行的是哪个桌面环境或Ubuntu版本,此方法都可以使用. 下面我们就来看看如何检测Ubuntu版本: 1.使用Ctrl+Alt+T键盘快捷键或单击终端图标打开终端. 2.使用lsb_release -a命令显示Ubuntu版本,会在Description行看到Ubuntu版本信息 输出: No LSB modules a

  • Ubuntu上mysql的安装及使用(通用版)

    不管是哪个版本的Ubuntu,安装mysql数据库基本上都是大同小异.下面介绍一下具体的安装步骤: 1.打开终端,并取得root权限 2.在终端输入: apt-get install mysql-server apt-get install mysql-client apt-get install libmysqlclient-dev 安装过程中,必要的地方需要输入"Y"进行确定. 上面这三条命令执行完以后,要想检测mysql是否安装成功,可输入下面的命令进行查看: netstat -

  • ubuntu系统修改时区和时间的方法

    在Linux计算机上,有两个时间,一个是硬件时间(BIOS中记录的时间,称为hwclock),另一个是操作系统时间(osclock).硬件时钟由BIOS电池供电, 当计算机关机后,会继续运行,BIOS电池一般可使用几年,如果没电了,那BIOS中的数据会恢复出厂设置. 硬件时间与操作系统时间的交互流程 1.开机时,操作系统从BIOS中读取硬件时间+时区,然后根据osclock的时区,转换为对应的时间.然后操作系统时间与硬件时间就独立运行,相互不影响,我们 通过应用程序获取的时间用的都是操作系统时间

  • 详解Ubuntu16.04安装Python3.7及其pip3并切换为默认版本

    0.配置依赖环境,如果不进行这步可能会出现一些问题 中间可能有多余空格,去除下再运行,一般都能安装成功,如果不能可以先更新下sudo apt-get update sudo apt-get install zlib1g-dev libbz2-dev libssl-dev libncurses5-dev libsqlite3-dev libreadline-dev tk-dev libgdbm-dev libdb-dev libpcap-dev xz-utils libexpat1-dev lib

  • Ubuntu16.04搭建php5.6Web服务器环境

    Ubuntu 16.04默认安装php7.0环境,但是php7目前对某些旧系统的兼容性并不是很好,如果自行安装php5需要清除php7的已安装包,否则会报错. 移除默认及已安装的PHP包 sudo dpkg -l | grep php| awk '{print $2}' |tr "\n" " " sudo apt-get install aptitude sudo aptitude purge `dpkg -l | grep php| awk '{print $2}

  • Ubuntu虚拟机下使用cutecom进行串口通信的方法

    Ubuntu虚拟机下使用cutecom进行串口通信 1. 安装cutecom 使用以下命令安装cutecom sudo apt-get install cutecom 调用以下命令打开cutecom sudo su cutecom 其中,Device位置的如果使用USB转串口,需要手动填写路径/dev/ttyUSB0 2. 为虚拟机添加串口 在虚拟机关闭的状态下,打开虚拟机设置 点击添加按钮 点击下一步即完成串口的添加 3. 为虚拟机创建ttyUSB0端口 使用以下命令创建ttyUSB0端口 s

  • Ubuntu下Docker CE的安装

    本文用于记录Ubuntu 17.10下Docker CE的安装. 安装依赖 关于Docker CE版本在Ubuntu下安装有如下限制 64位的OS 需要Ubuntu64bit的OS, 确认方法如下 devops@ubuntu:~$ uname -m x86_64 devops@ubuntu:~$ 版本 支持如下Ubuntu的版本 Artful 17.10 Xenial 16.04 (LTS) Trusty 14.04 (LTS) 注意:其中Artful 17.10只支持Docker CE17.1

  • Ubuntu环境下SSH的安装及使用详解

    SSH是指Secure Shell,是一种安全的传输协议,Ubuntu客户端可以通过SSH访问远程服务器 . SSH的简介和工作机制 SSH简介 传统的网络服务程序,如:ftp.POP和telnet在本质上都是不安全的,因为它们在网络上用明文传送口令和数据,别有用心的人非常容易就可以截获这些口令和数据.而且,这些服务程序的安全验证方式也是有其弱点的,就是很容易受到"中间人"(man-in-the-middle)这种方式的攻击.所谓"中间人"的攻击方式,就是"

  • Ubuntu基础设定:openssh-server的安装和使用介绍

    记录一下Ubuntu17.10的openssh-server的安装和使用.安装之后就可以使用ssh登陆Ubuntu了,所以是Ubuntu的基础设定之一. 事前准备 Ubuntu版本:17.10 devops@ubuntu:~$ cat /etc/issue Ubuntu 17.10 \n \l devops@ubuntu:~$ devops@ubuntu:~$ lsb_release -a No LSB modules are available. Distributor ID: Ubuntu

随机推荐