Skip to content

wuhuanqi/Spark_WordCount

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

4 Commits
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

Spark_WordCount

完成 单机版spark环境搭建 + Spark平台的词频统计

  1. 安装scala并配置环境变量。

image

  1. 配置hadoop环境变量。

image 3. 安装配置maven环境。

image 4. 安装IntelliJIDEA。为idea添加scala和maven插件。

  1. 使用IntelliJIDEA构建maven项目。(配置全局sdk,添加spark依赖) 在Pom.xml文件中配置依赖:spark、Scala、hadoop版本等

image 6. 新建scala.class编译运行

image 7. 词频统计运行结果 image

About

Spark平台的词频统计

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages