大数据Flink进阶(五):Flink开发环境准备-环球新资讯

2023-03-20 08:05:54 来源:腾讯云

Flink开发环境准备

学习一门新的编程语言时,往往会从"hello world"程序开始,而接触一套新的大数据计算框架时,则一般会从WordCount案例入手,下面以大数据中最经典入门案例WordCount为例,来编写Flink代码,Flink底层源码是基于Java代码进行开发,在Flink编程中我们除了可以使用Java语言来进行编写Flink程序外,还可以使用Scala、Python语言来进行编写Flink程序,在后文章中我们将会主要使用Java和Scala来编写Flink程序。下面来准备下Flink开发环境。


【资料图】

一、Flink版本

本套课程中我们采用Flink最新版本1.16.0,Flink1.16.0版本官方文档地址:

https://nightlies.apache.org/flink/flink-docs-release-1.16/

二、JDK环境

Flink核心模块均采用Java开发,所以运行环境需要依赖JDK,Flink可以基于类UNIX 环境中运行,例如:Linux、Max OS、Windows等,在这些系统上运行Flink时都需要配置JDK环境,Flink 1.16.0版本需要JDK版本为JDK11,目前版本也支持使用JDK8,后续版本对JDK8的支持将会移除。

考虑到Flink后期与一些大数据框架进行整合,这些大数据框架对JDK11的支持并不完善,例如:Hive3.1.3版本还不支持JDK11,所以本课程采用JDK8来开发Flink。对JDK8安装及配置不再详述。

附:JDK11 下载地址如下:

https://www.oracle.com/java/technologies/javase-jdk11-downloads.html

三、开发工具

我们可以选择IntelliJ IDEA或者Eclipse作为Flink应用的开发IDE,Flink开发官方建议使用IntelliJ IDEA,因为它默认集成了Scala和Maven环境,使用更加方便,我们这门课使用IntelliJ IDEA开发工具,具体安装步骤不再详述。

四、Maven环境

通过IntelliJ IDEA进行开发Flink Application时,可以使用Maven来作为项目jar包管理工具,需要在本地安装Maven及配置Maven的环境变量,需要注意的是,Maven版本需要使用3.0.4及以上,否则编译或开发过程中会有问题。这里使用Maven 3.2.5版本。

五、Scala环境

Flink开发语言可以选择Java、Scala、Python,如果用户选择使用Scala作为Flink应用开发语言,则需要安装Scala执行环境。

在Flink1.15之前版本,如果只是使用Flink的Java api ,对于一些没有Scala模块的包和表相关模块的包需要在Maven引入对应的包中加入scala后缀,例如:flink-table-planner_2.11,后缀2.11代表的就是Scala版本。在Flink1.15.0版本后,Flink添加对opting-out(排除) Scala的支持,如果你只使用Flink的Java api,导入包也不必包含scala后缀,你可以使用任何Scala版本。如果使用Flink的Scala api,需要选择匹配的Scala版本。

从Flink1.7版本往后支持Scala 2.11和2.12版本,从Flink1.15.0版本后只支持Scala 2.12,不再支持Scala 2.11。Scala环境可以通过本地安装Scala执行环境,也可以通过Maven依赖Scala-lib引入,如果本地安装了Scala某个版本,建议在Maven中添加Scala-lib依赖。Scala2.12.8之后的版本与之前的2.12.x版本不兼容,建议使用Scala2.12.8之后版本。

六、Hadoop环境

Flink可以操作HDFS中的数据及基于Yarn进行资源调度,所以需要对应的Hadoop环境,Flink1.16.0版本支持的Hadoop最低版本为2.8.5,本课程中我们使用Hadoop3.3.4版本。关于Hadoop3.3.4版本搭建,后续文章会手把手进行搭建。

标签:

莫高股份:挂牌出售公司所属分公司饮马麦芽厂的部分固定资产

八爪猫ENT 2023-03-13 17:53:32

天天时讯:海油工程:公司工程船舶具有大型化的特点 除了涉足浅海风电安装领域 也会更多聚焦中远海的风电领域

八爪猫ENT 2023-03-13 15:35:16

全球百事通!格力地产:重组工作正在抓紧审计评估

八爪猫ENT 2023-03-13 12:55:38

3月13日电池板块跌幅达2%

八爪猫ENT 2023-03-13 10:21:31

玲珑轮胎董秘回复:近两年受疫情等因素影响公司业绩表现不佳,其中包含外部多重不利因素也包含内部管理原因 世界快资讯

八爪猫ENT 2023-03-13 08:20:05

南京会斯通 章丽厚_章丽厚二女-世界新要闻

八爪猫ENT 2023-03-13 03:51:35

天天热头条丨春节衣锦还乡装腔指南_对于春节衣锦还乡装腔指南简单介绍

八爪猫ENT 2023-03-12 22:03:20

吃什么水果可以减肥_吃什么水果可以减肥

八爪猫ENT 2023-03-12 18:04:17

精选!销量不佳陷入裁员风波,东风岚图补贴降价挽救颓势

八爪猫ENT 2023-03-12 14:15:33

名符其实的造句(名符其实的同义词)|全球热消息

八爪猫ENT 2023-03-12 10:05:32

江苏徐州持退役军人优待证,乘地铁公交均免费,所有景点均免费!

八爪猫ENT 2023-03-12 06:08:21

腊肠表面长了好多霉毛还能吃吗?

八爪猫ENT 2023-03-11 23:57:56

滚动:国信证券:硅谷银行事件大概率不会演变成更广泛的危机事件

八爪猫ENT 2023-03-11 19:01:03

中建海峡中建福建开展“大手拉小手,校企结同心”校园公益植树活动

八爪猫ENT 2023-03-11 15:20:16

怎么制作浆糊_浆糊怎么做 浆糊具体做法 天天微头条

八爪猫ENT 2023-03-11 12:43:38
x 广告
x 广告

Copyright @  2015-2022 现在晚报网版权所有  备案号: 粤ICP备18023326号-5   联系邮箱:855 729 8@qq.com