高效的大数据开发环境搭建及实战
演示
内容大纲:
一、开发环境准备
1.IDE开发工具选择及安装
2.Java SDK版本选择及安装
3.Spark开发语言版本选择及安装
4.下载Spark的安装程序
5.安装Maven
6.安装sbt
7.IDE的插件选择、安装及配置
二、从零开始创建第一个Spark程序- HelloSpark
1.创建Scala工程
2.添加Spark依赖的jar包
3.修改工程pom文件,并更新依赖包
4.编写Spark程序代码
5.在IDE中编译并本地测试HelloSpark程序
6.编译jar包,并部署到Spark集运行
三、从github获取工程,并快速搭建Spark开发环境
1.从github中clone工程
2.修改代码,编译测试及打包
3.部署到Spark集
四、使用IDE及Github实现版本控制
1.建立github账号
2.下载github并安装
3.intellij idea配置github
4.intellij idea检出github项目
5.修改代码,编译及测试代码
6.上传项目到GitHub
T ABLE OF C ONTENTS
高效的大数据开发环境搭建及实战 (1)
内容大纲: (1)
一、开发环境准备 (1)
IDE开发工具选择及安装 (1)
选择、下载并安装JDK (1)
Spark开发语言Scala 的选择及安装 (1)
下载Spark的安装程序 (1)
安装Maven (1)
安装SBT (1)
IDE的插件选择、安装及配置 (1)
二、从零开始创建第一个S PARK程序-H ELLO S PARK (1)
创建Scala工程 (1)
添加Maven框架支持 (1)
pom文件修改 (1)
更新依赖 (1)
添加Spark依赖的jar包 (1)
创建Spark程序源代码目录 (1)
编写Spark程序代码 (1)
在IDE中编译并本地测试HelloSpark程序 (1)
编译jar包,并部署到Spark集运行 (1)
三、从G IT H UB获取工程,并快速搭建S PARK开发环境 (1)
从GitHub中clone工程 (1)
四、使用IDE及G ITHUB实现版本控制 (1)
建立github账号 (1)
安装GitHub (1)
IntelliJ IDE配置Git (1)
IntelliJ 检出GitHub项目 (1)
修改代码,编译及测试代码 (1)
上传项目到GitHub (1)
提交代码修改到GitHub (1)
一、开发环境准备
IDE开发工具选择及安装
主流的IDE开发环境有Scala-IDE(Eclipse)及IntelliJ IDEA两种,开发者可以根据自己的喜好选择。本演示所有的实验是基于IntelliJ IDEA完成。
两种工具下载地址分别如下:
最新版eclipse下载及安装•Scala-IDE (目前最新版4.4.1,Eclipse Luna 4.4.2)
/download/sdk.html下载适合自己系统的版本
•IntelliJ IDE (目前最新版2016.1)
www.jetbrains/idea/download/有社区版和收费版两种。对于本演示来说,社区版足够
选择、下载并安装JDK
JDK可以选择1.7和1.8。由于Oracle官方已经停止了1.7版本的更新,建议使用JDK1.8版本。
JDK1.7 下载地址:
acle/technetwork/java/javase/downloads/jdk7-downloads-1880260.html JDK1.8下载地址:
acle/technetwork/java/javase/downloads/jdk8-downloads-2133151.html
下载适合开发环境系统的版本。如本例中使用的是Mac OS X系统,所以下载Mac OS版本。

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。