1. 概述 Airflow是airbnb開源的基于DAG(有向無環(huán)圖)的用Python開發(fā)的任務(wù)管理系統(tǒng)蒲赂。最簡單的理解就是一個(gè)高級版的crontab从祝,它解決了crontab無...
1. 概述 Airflow是airbnb開源的基于DAG(有向無環(huán)圖)的用Python開發(fā)的任務(wù)管理系統(tǒng)蒲赂。最簡單的理解就是一個(gè)高級版的crontab从祝,它解決了crontab無...
在 Doris 中巧还,數(shù)據(jù)都以表(Table)的形式進(jìn)行邏輯上的描述穗泵。 名詞解釋 數(shù)據(jù)分布:數(shù)據(jù)分布是將數(shù)據(jù)劃分為子集, 按一定規(guī)則, 均衡地分布在不同節(jié)點(diǎn)上泽篮,以期最大限度地利...
1.概述 Apache Doris 是一個(gè)基于MPP架構(gòu)的高性能實(shí)時(shí)分析 OLAP 引擎盗尸,以其極快的速度和易用性而聞名。 它只需要亞秒的響應(yīng)時(shí)間即可在海量數(shù)據(jù)下返回查詢結(jié)果帽撑,...
以下文章來源于談數(shù)據(jù) 泼各,作者石秀峰 1、找癥狀亏拉,明確目標(biāo) 任何企業(yè)實(shí)施數(shù)據(jù)治理都不是為了治理數(shù)據(jù)而治理數(shù)據(jù)扣蜻,其背后都是管理和業(yè)務(wù)目標(biāo)的驅(qū)動(dòng)。企業(yè)中普遍存在的數(shù)據(jù)質(zhì)量問題有:數(shù)...
數(shù)據(jù)治理學(xué)習(xí)及梳理及塘,理解不算深刻莽使。丟失一次全部內(nèi)容,心態(tài)炸裂情況下先粗略寫了一般笙僚。后續(xù)充分結(jié)合地址數(shù)據(jù)治理進(jìn)行理解芳肌。 一、什么是數(shù)據(jù)治理為提高數(shù)據(jù)質(zhì)量而展開的業(yè)務(wù)肋层、技術(shù)和管理...
1. DevOps簡介 DevOps 就是開發(fā)(Development)净薛、測試(QA)、運(yùn)維(Operations)這三個(gè)領(lǐng)域的合并掂铐。 為什么要合并這三個(gè)領(lǐng)域罕拂?主要是開發(fā)和運(yùn)...
IaC的概述 由于現(xiàn)在的一切都致力實(shí)現(xiàn)數(shù)字化,尤其是在發(fā)生冠狀病毒疫情之后爆班,現(xiàn)在正確管理組織的IT基礎(chǔ)設(shè)施變得尤為重要衷掷。 在此之前,對IT基礎(chǔ)設(shè)施的管理都是由組織的系統(tǒng)管理員...
現(xiàn)在對Zookeeper的注冊中心原理再深入研究一下,主要學(xué)習(xí)它的設(shè)計(jì)思想枢舶。一文帶你了解Zookeeper的注冊中心流程懦胞、探活機(jī)制、Watch機(jī)制和CP模型凉泄。 注冊中心基本概...
這里需要學(xué)習(xí)Linux常用的快捷鍵: 終端命令格式 command [-options] [parameter]第一個(gè)是命令名躏尉,第二個(gè)是選項(xiàng),對命令進(jìn)行控制后众,也可以省略胀糜;第三...
這本書有8個(gè)章節(jié),從基礎(chǔ)逐漸展開绍移,但是書籍總共也只有236頁悄窃,還包含了Hadoop、spark和Flink三個(gè)知識點(diǎn)蹂窖。所以感覺講得可能不太會(huì)很深入广匙。這里畢竟是書籍的閱讀部分,...
1.命名規(guī)范 數(shù)據(jù)庫表名恼策、字段名鸦致、索引名等都需要命名規(guī)范,可讀性高(一般要求用英文)涣楷,讓別人一看命名分唾,就知道這個(gè)字段表示什么意思。 比如一個(gè)表的賬號字段狮斗,反例如下: 正例: ...
利用JAVA向Mysql插入一億數(shù)量級數(shù)據(jù)—效率測評 這幾天研究mysql優(yōu)化中查詢效率時(shí)看疗,發(fā)現(xiàn)測試的數(shù)據(jù)太少(10萬級別),利用 EXPLAIN 比較不同的 SQL 語句睦授,...
前言 最近有幾個(gè)讀者私信給我,問我他們的業(yè)務(wù)場景去枷,要用什么樣的定時(shí)任務(wù)怖辆。確實(shí),在不用的業(yè)務(wù)場景下要用不同的定時(shí)任務(wù)删顶,其實(shí)我們的選擇還是挺多的竖螃。我今天給大家總結(jié)10種非常實(shí)用的...
本系列文章記錄本人從剛接觸airflow到在實(shí)際項(xiàng)目中使用airflow的學(xué)習(xí)筆記,一則記錄airflow的相關(guān)筆記加深自我理解逗余;二則分享出來跟大伙一起討論進(jìn)步特咆。 airfl...