
Apache DolphinScheduler(工作流任務調度系統(tǒng))
DolphinScheduler官方版是專業(yè)的可視化工作流任務調度系統(tǒng)。處理工作調度,有效解決數(shù)據(jù)處理流程中錯綜復雜的依賴關系,使調度系統(tǒng)在數(shù)據(jù)處理流程中開箱即用。支持多租戶,更好的應對大數(shù)據(jù)的使用場景。支持任務日志在線查看及滾動、在線下載日志等,非常實用。
軟件特色
高可靠性
去中心化的多Master和多Worker, 自身支持HA功能, 采用任務隊列來避免過載,不會造成機器卡死。
簡單易用
DAG監(jiān)控界面,所有流程定義都是可視化,通過拖拽任務定制DAG,通過API方式與第三方系統(tǒng)對接, 一鍵部署。
豐富的使用場景
支持暫?;謴筒僮鳌?支持多租戶,更好的應對大數(shù)據(jù)的使用場景。 支持更多的任務類型,如 spark, hive, mr, python, sub_process, shell。
高擴展性
支持自定義任務類型,調度器使用分布式調度,調度能力隨集群線性增長,Master和Worker支持動態(tài)上下線。
功能介紹
1、以DAG圖的方式將Task按照任務的依賴關系關聯(lián)起來,可實時可視化監(jiān)控任務的運行狀態(tài)。
2、支持豐富的任務類型:Shell、MR、Spark、SQL(mysql、postgresql、hive、sparksql),Python,Sub_Process、Procedure等。
3、支持工作流定時調度、依賴調度、手動調度、手動暫停/停止/恢復,同時支持失敗重試/告警、從指定節(jié)點恢復失敗、Kill任務等操作。
4、支持工作流優(yōu)先級、任務優(yōu)先級及任務的故障轉移及任務超時告警/失敗。
5、支持工作流全局參數(shù)及節(jié)點自定義參數(shù)設置。
6、支持資源文件的在線上傳/下載,管理等,支持在線文件創(chuàng)建、編輯。
7、支持任務日志在線查看及滾動、在線下載日志等。
8、實現(xiàn)集群HA,通過Zookeeper實現(xiàn)Master集群和Worker集群去中心化。
9、支持對Master/Worker cpu load,memory,cpu在線查看。
10、支持工作流運行歷史樹形/甘特圖展示、支持任務狀態(tài)統(tǒng)計、流程狀態(tài)統(tǒng)計。
11、支持補數(shù)。
12、支持多租戶。
13、支持國際化。
14、還有更多等待伙伴們探索。
[超站]友情鏈接:
四季很好,只要有你,文娛排行榜:https://www.yaopaiming.com/
關注數(shù)據(jù)與安全,洞悉企業(yè)級服務市場:https://www.ijiandao.com/

隨時掌握互聯(lián)網(wǎng)精彩
- 1 習近平接見新疆各族各界代表 7904780
- 2 樺加沙風眼內部曝光 拍攝部門:震撼 7807853
- 3 飛機狂風中降落 機翼險些砸地 7714074
- 4 援疆的山海深情 跨越千里萬里 7616595
- 5 馬克龍被美警察攔下 當場打給特朗普 7520039
- 6 臺風“樺加沙”影響有多大?解讀來了 7425500
- 7 深圳機場飛機被“五花大綁”防臺風 7329421
- 8 盒馬最難吃甜品被臺風選出來了 7237600
- 9 上海再通報多校午餐發(fā)臭:涉嫌瞞報 7136914
- 10 醫(yī)院通報“CT報告單現(xiàn)不文明用語” 7039811