Mac安装Hadoop2.8.0

陈翔
• 阅读 4082

前几天试了一下Hadoop,搜了大量网络资料,现在发现有的网络资料太旧了,今天重新写了个,比较简单。

安装及配置Hadoop

1.首先安装一下Hadoop

brew install Hadoop

2.配置Hadoop目录下的文件

1.core-site.xml文件

<configuration> <property> <name>fs.defaultFS</name> <value>hdfs://localhost:9000</value> </property> </configuration>

2.hdfs-site.xml

<configuration> <property> <name>dfs.replication</name> <value>1</value> </property> </configuration>

3.mapred-site.xml

<configuration> <property> <name>mapreduce.framework.name</name> <value>yarn</value> </property> </configuration>

mapred-site.xml文件不存在,需要自己创建(可以复制一下mapred-site.xml.template文件再进行修改)

4.yarn-site.xml

<configuration>
<property>
    <name>yarn.nodemanager.aux-services</name>
    <value>mapreduce_shuffle</value>
</property>
</configuration>

2.运行Hadoop

1.进入Hadoop的目录,以mac系统为例目录为

/usr/local/Cellar/hadoop/2.8.0/libexec

然后格式化文件系统:

$ bin/hdfs namenode -format

2.启动所有进程

sbin/start-all.sh

期间输入无数次密码,在此可以设置一下ssh免密码登录。

3.访问localhost:50070和localhost:8088测试是否正常。

MY BLOG

点赞
收藏
评论区
推荐文章
Wesley13 Wesley13
3年前
HDFS安装
最近内部需求,要求我把数据上传HDFS,顺便分享一下如何安装并查看HDFS文件目录我是在ubuntu(14.04.2)上安装的:1.我安装ubuntu用的不是Hadoop用户,所以要新建一个Hadoop用户  $ sudouseradd\mhadoops/bin/bash设置密码$sudo
Wesley13 Wesley13
3年前
Ubuntu16.04下安装Hive
 上一篇博客我们已经说过了要如何安装Hadoop,别忘记了我们的目的是安装Hive。所以这篇博客,我就来介绍一下如何安装Hive。一、环境准备(1)Vmware (2) Ubuntu16.04 (3) Hadoop二、安装Hive (1)mysqlserver和mysqlclient的下载  $suhadoop
Wesley13 Wesley13
3年前
Hadoop使用学习笔记(1)
Hadoop使用学习笔记1.Hadoop安装与基本概念Hadoop发行版本地址(https://www.oschina.net/action/GoToLink?urlhttp%3A%2F%2Fhadoop.apache.org%2Freleases.html)1.1环境配置需
Stella981 Stella981
3年前
Eclipse连接Hadoop集群并运行wordCount全过程记录
为了自己以后方便会看记录一下整个过程,Hadoop集群之前已经搭建好,这部分工作以后再补写。环境:win10    Eclipse4.4.2    JDK1.7    Hadoop2.7.1     相关安装文件可在文末的链接下载1.加载eclipse插件(1)下载hadoopeclipseplugin插件,此处下载了had
Stella981 Stella981
3年前
Hadoop技术资料汇总(不断更新中)
这些资料都是我在工作中学习、解决问题的资料汇总,我不能保证这里罗列的所有资料对看到的人有用,但大部分都经过我的实际验证。在不断学习和实践过程中,我会不断更新和总结这些资料,同时欢迎大家留言交流。感谢这些资料的作者。一、HDFS1、集群安装:Hadoop2.6.0HA高可用集群配置详解(https://www.os
Stella981 Stella981
3年前
Hadoop学习笔记:Hadoop安装(本地安装)
最近开始研究大数据这块,现在从最基础的Hadoop开始,后续将逐渐学习Hadoop整个生态圈的各个部分组件。Hadoop安装分为本地安装、伪分布式、完全分布式和高可用分布式,这里为个人学习用(实际情况是本人没有那么多机器,装虚拟机的话,内存可能也不够,T\_T),仅涉及到本地安装和伪分布式安装。环境准备操作系统信
Stella981 Stella981
3年前
Hadoop完整搭建过程(二):伪分布模式
1伪分布模式伪分布模式是运行在单个节点以及多个Java进程上的模式。相比起本地模式,需要进行更多配置文件的设置以及ssh、YARN相关设置。2Hadoop配置文件修改Hadoop安装目录下的三个配置文件:etc/hadoop/coresite.xmle
Stella981 Stella981
3年前
Hadoop伪分布式环境搭建之Linux操作系统安装
Hadoop伪分布式环境搭建之Linux操作系统安装本篇文章是接上一篇《超详细hadoop虚拟机安装教程(附图文步骤)》,上一篇有人问怎么没写hadoop安装。在文章开头就已经说明了,hadoop安装会在后面写到,因为整个系列的文章涉及到每一步的截图,导致文章整体很长。会分别先对虚拟机的安装、Linux系统安装进行介绍,然后才会写到had
Stella981 Stella981
3年前
Hive 2、Hive 的安装配置(本地MySql模式)
一、前提条件  安装了Zookeeper、Hadoop HDFS HA 安装方法: http://www.cnblogs.com/raphael5200/p/5154325.html(https://www.oschina.net/action/GoToLink?urlhttp%3A%2F%2Fwww.cnblogs.com%2Fraph
Wesley13 Wesley13
3年前
(二)大数据生态圈集群搭建之
搭建流程说明下载安装包高可用完全分布式搭建一.集群规划二.hadoop安装配置三.zookeeper安装配置四.集群格式化五.启动,操作,关闭集群六.访问NameNode的WebUI页面七.搭建Hadoop的client说明
Stella981 Stella981
3年前
Hadoop2.0伪分布式平台环境搭建
一、搭建环境的前提条件环境:ubuntu16.04hadoop2.6.0jdk1.8.0\_161。这里的环境不一定需要和我一样,基本版本差不多都ok的,所需安装包和压缩包自行下载即可。因为这里是配置Hadoop的教程,配置Java以及安装VMwareTools就自行百度解决哈,这里就不写了(因为教程有点
陈翔
陈翔
Lv1
穿花蛱蝶深深见,点水蜻蜓款款飞。
文章
5
粉丝
0
获赞
0