一区二区精品免费_国产午夜手机精彩视频_黄色片子在线观看_亚洲久久久久久久_中文字幕在线看高清电影_韩国三级丰满少妇高潮_自拍偷拍你懂的_国产福利在线观看视频_国产在视频线精品视频_国产三级在线观看完整版_少妇高潮一区二区三区喷水

首頁 行業 活動 項目 快訊 文娛 時尚 娛樂 科技 汽車 綜合 生活

大數據Flink進階(十四):Flink On Standalone任務提交

2023-04-10 16:37:46 來源:騰訊云

?Flink On Standalone任務提交

Flink On Standalone 即Flink任務運行在Standalone集群中,Standlone集群部署時采用Session模式來構建集群,即:首先構建一個Flink集群,Flink集群資源就固定了,所有提交到該集群的Flink作業都運行在這一個集群中,如果集群中提交的任務多資源不夠時,需要手動增加節點,所以Flink 基于Standalone運行任務一般用在開發測試或者企業實時業務較少的場景下。

Flink On Standalone 任務提交支持Session會話模式和Application應用模式,不支持Per-Job單作業模式。下面介紹基于Standalone 的Session會話模式和Application應用模式任務提交命令和原理,演示兩類任務提交模式的代碼還是以上一章節中讀取Socket 數據進行實時WordCount統計代碼為例,代碼如下:

package com.lanson.flinkjava.code.chapter4;import org.apache.flink.api.common.typeinfo.Types;import org.apache.flink.api.java.tuple.Tuple2;import org.apache.flink.streaming.api.datastream.DataStreamSource;import org.apache.flink.streaming.api.datastream.SingleOutputStreamOperator;import org.apache.flink.streaming.api.environment.StreamExecutionEnvironment;import org.apache.flink.util.Collector;/** * 讀取Socket數據進行實時WordCount統計 */public class SocketWordCount {    public static void main(String[] args) throws Exception {        //1.準備環境        StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();        //2.讀取Socket數據        DataStreamSource ds = env.socketTextStream("node3", 9999);        //3.準備K,V格式數據        SingleOutputStreamOperator> tupleDS = ds.flatMap((String line, Collector> out) -> {            String[] words = line.split(",");            for (String word : words) {                out.collect(Tuple2.of(word, 1));            }        }).returns(Types.TUPLE(Types.STRING, Types.INT));        //4.聚合打印結果        tupleDS.keyBy(tp -> tp.f0).sum(1).print();        //5.execute觸發執行        env.execute();    }}

將以上代碼進行打包,名稱為"FlinkJavaCode-1.0-SNAPSHOT-jar-with-dependencies.jar",并在node3節點上啟動socket服務(nc -lk 9999)。


(資料圖)

一、Standalone Session模式

1、任務提交命令

在Standalone集群搭建完成后,基于Standalone集群提交Flink任務方式就是使用的Session模式,提交任務之前首先啟動Standalone集群($FLINK_HOME/bin/start-cluster.sh),然后再提交任務,Standalone Session模式提交任務命令如下:

[root@node1 ~]# cd /software/flink-1.16.0/bin/[root@node1 bin]# ./flink run -m node1:8081 -d -c com.lanson.flinkjava.code.chapter4.SocketWordCount /root/flink-jar-test/FlinkJavaCode-1.0-SNAPSHOT-jar-with-dependencies.jar

以上提交任務的參數解釋如下:

參數

解釋

-m

--jobmanager,指定提交任務連接的JobManager地址。

-c

--class,指定運行的class主類。

-d

--detached,任務提交后在后臺獨立運行,退出客戶端,也可不指定。

-p

--parallelism,執行程序的并行度。

以上任務提交完成后,我們可以登錄Flink WebUI(https://node1:8081)查看啟動一個任務:

再次按照以上命令提交Flink任務可以看到集群中會有2個任務,說明Standalone Session模式下提交的所有Flink任務共享集群資源,如下:

以上提交Flink流任務的名稱默認為"Flink Streaming Job",也可以通過參數"pipeline.name"來自定義指定Job 名稱,提交命令如下:

./flink run -m node1:8081 -d -Dpipeline.name=socket-wc1 -c com.lanson.flinkjava.code.chapter4.SocketWordCount /root/flink-jar-test/FlinkJavaCode-1.0-SNAPSHOT-jar-with-dependencies.jar

提交之后,可以看到頁面中有三個任務,最后一個任務提交的名稱改成了自定義任務名稱。

2、任務提交流程

Standalone Session模式提交任務中首先需要創建Flink集群,集群創建啟動的同時Dispatcher、JobMaster、ResourceManager對象一并創建、TaskManager也一并啟動,TaskManager會向集群ResourceManager匯報Slot信息,Flink集群資源也就確定了。Standalone Session模式提交任務流程如下:

在客戶端提交Flink任務,客戶端會將任務轉換成JobGraph提交給JobManager。Dispatcher將提交任務提交給JobMaster。JobMaster向ResourceManager申請Slot資源。ResourceManager會在對應的TaskManager上劃分Slot資源。TaskManager向JobMaster offer Slot資源。JobMaster將任務對應的task發送到TaskManager上執行。

二、Standalone Application模式

1、任務提交命令

Standalone Application模式中不會預先創建Flink集群,在提交Flink 任務的同時會創建JobManager,啟動Flink集群,然后需要手動啟動TaskManager連接該Flink集群,啟動的TaskManager會根據$FLINK_HOME/conf/flink-conf.yaml配置文件中的"jobmanager.rpc.address"配置找JobManager,所以這里選擇在node1節點上提交任務并啟動JobManager,方便后續其他節點啟動TaskManager后連接該節點。Standalone Appliction模式提交任務步驟和命令如下:

1.1、準備Flink jar包

在node1節點上將Flink 打好的"FlinkJavaCode-1.0-SNAPSHOT-jar-with-dependencies.jar"jar包放在 $FLINK_HOME/lib目錄下。

1.2、提交任務,在node1 節點上啟動 JobManager

cd /software/flink-1.16.0/bin/
#執行如下命令,啟動JobManager ./standalone-job.sh start --job-classname com.lanson.flinkjava.code.chapter4.SocketWordCount

執行以上命令后會自動從$FLINK_HOME/lib中掃描所有jar包,執行指定的入口類。命令執行后可以訪問對應的Flink WebUI:https://node1:8081,可以看到提交的任務,但是由于還沒有執行TaskManager任務無法執行。

1.3、啟動TaskManager

在node1、node2、node3任意一臺節點上啟動taskManager,根據$FLINK_HOME/conf/flink-conf.yaml配置文件中"jobmanager.rpc.address"配置項會找到對應node1 JobManager。

#在node1節點上啟動TaskManager[root@node1 ~]# cd /software/flink-1.16.0/bin/[root@node1 bin]# ./taskmanager.sh start#在node2節點上啟動TaskManager[root@node2 ~]# cd /software/flink-1.16.0/bin/[root@node2 bin]# ./taskmanager.sh start

啟動兩個TaskManager后可以看到Flink WebUI中對應的有2個TaskManager,可以根據自己任務使用資源的情況,手動啟動多個TaskManager。

1.4、停止集群

#停止啟動的JobManager[root@node1 bin]# ./standalone-job.sh stop#停止啟動的TaskManager[root@node1 bin]# ./taskmanager.sh stop[root@node2 bin]# ./taskmanager.sh stop

我們可以以同樣的方式在其他節點上以Standalone Application模式提交先的Flink任務,但是每次提交都是當前提交任務獨享集群資源。

2、任務提交流程

Standalone Application模式提交任務中提交任務的同時會啟動JobManager創建Flink集群,但是需要手動啟動TaskManager,這樣提交的任務才能正常運行,如果提交的任務使用資源多,還可以啟動多個TaskManager。Standalone Application模式提交任務流程如下:

在客戶端提交Flink任務的同時啟動JobManager,客戶端會將任務轉換成JobGraph提交給JobManager。Dispatcher會啟動JobMaster,Dispatcher將提交任務提交給JobMaster。JobMaster向ResourceManager申請Slot資源。手動啟動TaskManager,TaskManager會向ResourceManager注冊Slot資源ResourceManager會在對應的TaskManager上劃分Slot資源。TaskManager向JobMaster offer Slot資源。JobMaster將任務對應的task發送到TaskManager上執行。

Standalone Application模式任務提交流程和Standalone Session模式類似,兩者區別主要是Standalone Session模式中啟動Flink集群時JobManager、TaskManager、JobMaster會預先啟動;Standalone Application模式中提交任務時同時啟動集群JobManager、JobMaster,需要手動啟動TaskManager。

?

關鍵詞:

上一篇:寧波銀行上海分行獲評人行上海分行2022年上海市銀行業現金服務與管理業務考核A類行

下一篇:鄭州熱力2023-2024采暖季新用戶報裝開始_世界看熱訊

責任編輯:

最近更新

點擊排行
推薦閱讀

一区二区精品免费_国产午夜手机精彩视频_黄色片子在线观看_亚洲久久久久久久_中文字幕在线看高清电影_韩国三级丰满少妇高潮_自拍偷拍你懂的_国产福利在线观看视频_国产在视频线精品视频_国产三级在线观看完整版_少妇高潮一区二区三区喷水
久久精品成人av| 久久精品在线观看视频| 日本激情小视频| av黄色一级片| 麻豆传媒在线看| 久久久久久久久久久久久女过产乱| 91成人破解版| 制服丝袜在线第一页| gogo亚洲国模私拍人体| 久久精品一区二区三区四区五区| 天堂久久精品忘忧草| 日本japanese极品少妇| 国产精品18在线| 中文字幕av一区二区三区人妻少妇| 少妇熟女视频一区二区三区| 日韩激情小视频| 在线观看你懂的视频| 亚洲国产果冻传媒av在线观看| 在哪里可以看毛片| 欧美老熟妇乱大交xxxxx| 久久精品色妇熟妇丰满人妻| 三级av在线免费观看| 日韩少妇一区二区| 三级在线观看免费大全| 国产ts在线播放| 影音先锋资源av| 婷婷色中文字幕| 免费观看av网站| 国产精品久久久久久成人| 免费观看黄网站| 亚洲精品自拍视频在线观看| 色哟哟视频在线| 国产女人被狂躁到高潮小说| 国产三级在线观看完整版| 中文字幕人妻一区二区三区| 国产91在线播放九色| 亚洲色图27p| 国产精品福利导航| 国产chinese中国hdxxxx| 暗呦丨小u女国产精品| 国产精品99久久久久久成人| 性色av无码久久一区二区三区| 美国黄色片视频| h色网站在线观看| 性欧美videos| 日本黄色小视频在线观看| 中文字幕在线看高清电影| 网爆门在线观看| 国产艳妇疯狂做爰视频| 国产网站无遮挡| 小向美奈子av| 国产精品第七页| 久久精品无码一区二区三区毛片| 欧美卡一卡二卡三| 噜噜噜在线视频| 国产这里有精品| 午夜时刻免费入口| 岛国毛片在线观看| 白白色免费视频| 精品人妻伦一二三区久| 亚洲色偷偷综合亚洲av伊人| 欧美一区二区三区成人精品| 好吊操视频这里只有精品| 国产又黄又粗又猛又爽的| 国产 中文 字幕 日韩 在线| 国产一区二区视频在线观看免费| 国产探花视频在线播放| 国产高清自拍视频| 魔女鞋交玉足榨精调教| 中文字幕一区二区三区人妻| 手机毛片在线观看| 捆绑裸体绳奴bdsm亚洲| 中文字幕在线观看的网站| 国产传媒国产传媒| 成人手机在线免费视频| 国产黄色三级网站| 欧美xxxx精品| 日本黄色www| 五月天激情小说| 国产jjizz一区二区三区视频| 国产交换配乱淫视频免费| 在线视频第一页| 成人免费毛片东京热| 国产清纯白嫩初高中在线观看性色| 久久久久久久久久网站| 中文字幕人妻一区| 一级性生活免费视频| 国产精品国产精品88| 成人网站免费观看| 91高清免费看| 日韩在线视频网址| 三级在线观看免费大全| www.黄色在线| 日韩一区二区a片免费观看| 成人在线观看一区二区| 黄色香蕉视频在线观看| avhd101老司机| 内射毛片内射国产夫妻| 国产人妻大战黑人20p| 三级电影在线看| 香蕉网在线播放| free性中国hd国语露脸| 国产精品麻豆免费版现看视频| 扒开伸进免费视频| 女同性恋一区二区三区| mm131美女视频| 国产日产在线观看| 亚洲色成人网站www永久四虎| www.黄色在线| 午夜69成人做爰视频| 日本50路肥熟bbw| 色撸撸在线视频| 国产大尺度视频| youjizz亚洲女人| 中文字幕18页| 在线观看天堂av| 亚洲 自拍 另类 欧美 丝袜| 免费国产羞羞网站美图| 国产又黄又粗又猛又爽的视频| 亚洲AV无码成人精品区明星换面| 亚洲欧美卡通动漫| 四虎国产精品成人免费入口| 人妻人人澡人人添人人爽| 成都免费高清电影| 丰满人妻一区二区三区免费视频棣| 亚洲中文字幕无码一区| 亚洲码无人客一区二区三区| 熟女人妻在线视频| 白嫩情侣偷拍呻吟刺激| 日本一二三不卡视频| 疯狂撞击丝袜人妻| 中文人妻一区二区三区| 日本性高潮视频| 国产美女免费无遮挡| 美女久久久久久久久久| 国产免费一区二区三区最新6| 黄色性视频网站| 国产成人无码一区二区在线观看| 91porn在线| 日本一区二区三区网站| 中文字幕av网址| 亚洲激情图片网| 熟女少妇一区二区三区| 亚洲av无码一区二区三区网址 | 国产成人在线网址| 欧美一区二区三区爽爽爽| www日本在线观看| 亚洲の无码国产の无码步美| 无码人妻aⅴ一区二区三区| 正在播放国产对白害羞| 国产精品手机在线观看| 娇妻被老王脔到高潮失禁视频| 香蕉在线观看视频| 国产黄色片在线| 野战少妇38p| 欧美xxxxx少妇| 小向美奈子av| 极品蜜桃臀肥臀-x88av| 亚洲三级在线视频| 亚洲波多野结衣| 日韩在线一卡二卡| 国产传媒视频在线| 美女福利视频网| 极品久久久久久| 中文字幕观看av| 日韩精品国产一区| 精品无码在线观看| 久久久久亚洲av无码专区桃色| 久久久久久久久久网站| 国产精品久久久久久久精| 无码人妻丰满熟妇啪啪欧美| 国产黄色三级网站| 午夜不卡久久精品无码免费| 国产精品一区二区在线免费观看| 免费看毛片的网站| 校园春色 亚洲| 91九色蝌蚪porny| 国产熟妇久久777777| 欧洲美熟女乱又伦| 超碰caoprom| 国产第一页精品| 精品国产乱码久久久久夜深人妻| a视频免费观看| 糖心vlog免费在线观看| 中文字幕久久久久久久| 波多野结衣三级视频| jizz18女人高潮| 美女久久久久久久久| 波多野结衣电影免费观看| 深夜福利影院在线观看| 国产高清成人久久| 亚洲欧美高清在线| 日本人添下边视频免费| 久久久国产精品无码| 国产探花在线免费观看| 泷泽萝拉在线播放| 美女100%无挡| 91精品国自产在线| 日韩av网站在线播放| 精产国品一区二区三区|