博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
基于Hadoop2.6的Spark1.2单机安装
阅读量:6966 次
发布时间:2019-06-27

本文共 1759 字,大约阅读时间需要 5 分钟。

一,安装环境 

硬件:虚拟机 
操作系统:Centos 6.4 64位 
IP:10.51.121.10 
主机名:datanode-4 
安装用户:root 
Hadoop:Hadoop2.6,Hadoop2.6的单机安装请见:http://www.cnblogs.com/zouzhongfan/p/4309405.html
Hive:Hive0.13,Hive0.13的安装请见:http://www.cnblogs.com/zouzhongfan/p/4309432.html

 

二,安装Scala 

1,到 下载与Spark版本对应的Scala。Spark1.2对应于Scala2.10的版本。这里下载scala-2.10.4.tgz。 
2,解压安装Scala 
1), 执行#tar -axvf scala-2.10.4.tgz,解压到/root/spark/scala-2.10.4。 
2),在~/.bash_profile中添加如下配置:

export SCALA_HOME=/root/spark/scala-2.10.4export PATH=$JAVA_HOME/bin$HADOOP_HOME/bin:$HIVE_HOME/bin:$SCALA_HOME/bin:$PATH

3),使环境变量生效,#source ~/.bash_profile 

3,验证安装,在命令行中输入scala命令,可以进入scala命令控制台。

# scalaWelcome to Scala version 2.10.4 (Java HotSpot(TM) 64-Bit Server VM, Java 1.6.0_45). Type in expressions to have them evaluated. Type :help for more information. scala>

三,安装Spark 

1,到下载spark-1.2.0-bin-hadoop2.4.tgz,解压到/root/spark/spark-1.2.0-bin-hadoop2.4。 
2,在.bash_profile中添加如下配置:

export SPARK_HOME=/root/spark/spark-1.2.0-bin-hadoop2.4export PATH=$JAVA_HOME/bin:$HADOOP_HOME/bin:$SCALA_HOME/bin:$SPARK_HOME/bin:$HIVE_HOME/bin:$PATH

3,使环境变量生效,#source ~/.bash_profile

四,配置Spark 

1,进入Spark的配置文件路径,#cd $SPARK_HOME/conf 
2,执行,#cp spark-env.sh.template spark-env.sh 
3,在spark-env.sh文件中添加如下配置:

export JAVA_HOME=/usr/lib/jdk1.6.0_45export SCALA_HOME=/root/spark/scala-2.10.4 export HADOOP_CONF_DIR=/root/hadoop/hadoop-2.6.0/etc/hadoop

五,启动Spark 

1,进入spark的安装路径,#cd /root/spark/spark-1.2.0-bin-hadoop2.4 
2,执行#./sbin/start-all.sh命令 
3,执行 #jps命令,会有Master和Worker进程

# jps38907 RunJar39030 RunJar54679 NameNode26587 Jps 54774 DataNode 9850 Worker 9664 Master 55214 NodeManager 55118 ResourceManager 54965 SecondaryNameNode

4,进入Spark的Web界面: 

这里写图片描述
5,执行,#./bin/spark-shell命令,可以进入Spark的shell环境,可以通过,看到SparkUI的情况。 
这里写图片描述

转载于:https://www.cnblogs.com/zouzhongfan/p/4309434.html

你可能感兴趣的文章
Java 面向对象 之 方法的覆盖
查看>>
开发者应该了解Kubernetes对于程序的影响点
查看>>
[Spark]Spark Streaming 指南三 DStreams
查看>>
LeetCode 14 Longest Common Prefix(最长公共前缀)(String)
查看>>
关注 | 《财富》发布“改变世界”企业 阿里巴巴因农村战略位列中国第一
查看>>
[Hadoop]Hadoop本地调试
查看>>
DNS服务-主从架构搭建
查看>>
找油网获1.5亿美元融资:Rainbow Capital领投C1轮,普洛斯领投C2轮
查看>>
2017.10.1 AJAX技术对RESTful的前端实现
查看>>
流程控制(逻辑词汇)
查看>>
初识 Spring(04)---(bean属性)
查看>>
【ASP】循环
查看>>
2014 年度小结(Node.js 与 单元测试)
查看>>
Ceph编译安装教程
查看>>
Oracle总结【SQL细节、多表查询、分组查询、分页】
查看>>
Android Service简介(系列1)
查看>>
机器人快跑!伯克利和CMU联合开发两足机器人,两条细腿,一马平川
查看>>
Android - 电池状态
查看>>
第一个 Dubbo 应用
查看>>
mysql8.0.11安装教程
查看>>