Kubeflow Pipeline 初體驗(yàn)

因?yàn)楣ぷ鞯年P(guān)系, 開始接觸 Kubeflow. "實(shí)踐出真知", 快速入門的最快的方式就是搭建環(huán)境,再跑個(gè)例子, 好在社區(qū)這塊的資料很多. 從?Kubeflow Pipeline 入手, 一次可以接觸所有組件.

直接選擇?Kubeflow Pipeline 中的例子?cab_classification. 在 experiments 界面, 可以獲得流水行運(yùn)行的結(jié)果:

pipeline 運(yùn)行圖

幾點(diǎn)感受:

1. Pipeline 基于 Argo實(shí)現(xiàn), 可以快速構(gòu)建 DAG(Directed Acyclic Graph) 和 Step-based 流水線, 可以滿足絕大多數(shù)需求.

2. 文檔里發(fā)布 Kubeflow 前端的的方式采用 kube proxy port-forward 的方式, 使用 Istio Ingress + Gateway + VirtualService 可以更加靈活.

3. 報(bào)錯(cuò), 嚴(yán)格的說是沒有報(bào)錯(cuò), 比如初始化用戶命名空間是有格式校驗(yàn)的, 但是頁面不會(huì)報(bào)錯(cuò), 要查看組件日志才能發(fā)現(xiàn). 考慮到大多數(shù)?Kubeflow 的用戶是算法科學(xué)家的話, 這個(gè)體驗(yàn)確實(shí)很差.

4. 提供的例子重度依賴Google環(huán)境, 比如流水線構(gòu)建物輸入輸出, 比如: 數(shù)據(jù), Model, Tensorboard 依賴的 event data 都依賴 Google的對(duì)象存儲(chǔ)服務(wù). 雖然可以使用S3或者M(jìn)inio做替換, 但是還有一些其他依賴問題, 比如這個(gè)例子會(huì)使用?Apache Beam?預(yù)處理和模型分析, 但是?Apache Beam?并不支持 S3.?S3 errors in Pipeline examples for reading training data and artifact storage. 類似的問題還有個(gè)別組件的前端僅支持?minio, s3, gc, http, https, 要知道本地部署的環(huán)境多是 localpath 或者 NFS.?

感覺離真正的產(chǎn)線部署還有很遠(yuǎn)的距離.

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末握童,一起剝皮案震驚了整個(gè)濱河市燃逻,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖照宝,帶你破解...
    沈念sama閱讀 218,941評(píng)論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)诫舅,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,397評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來宫患,“玉大人刊懈,你說我怎么就攤上這事。” “怎么了俏讹?”我有些...
    開封第一講書人閱讀 165,345評(píng)論 0 356
  • 文/不壞的土叔 我叫張陵当宴,是天一觀的道長畜吊。 經(jīng)常有香客問我泽疆,道長,這世上最難降的妖魔是什么玲献? 我笑而不...
    開封第一講書人閱讀 58,851評(píng)論 1 295
  • 正文 為了忘掉前任殉疼,我火速辦了婚禮,結(jié)果婚禮上捌年,老公的妹妹穿的比我還像新娘瓢娜。我一直安慰自己,他們只是感情好礼预,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,868評(píng)論 6 392
  • 文/花漫 我一把揭開白布眠砾。 她就那樣靜靜地躺著,像睡著了一般托酸。 火紅的嫁衣襯著肌膚如雪褒颈。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,688評(píng)論 1 305
  • 那天励堡,我揣著相機(jī)與錄音谷丸,去河邊找鬼。 笑死应结,一個(gè)胖子當(dāng)著我的面吹牛刨疼,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播鹅龄,決...
    沈念sama閱讀 40,414評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼揩慕,長吁一口氣:“原來是場噩夢(mèng)啊……” “哼!你這毒婦竟也來了扮休?” 一聲冷哼從身側(cè)響起迎卤,我...
    開封第一講書人閱讀 39,319評(píng)論 0 276
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎肛炮,沒想到半個(gè)月后止吐,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,775評(píng)論 1 315
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡侨糟,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,945評(píng)論 3 336
  • 正文 我和宋清朗相戀三年碍扔,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片秕重。...
    茶點(diǎn)故事閱讀 40,096評(píng)論 1 350
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡不同,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情二拐,我是刑警寧澤服鹅,帶...
    沈念sama閱讀 35,789評(píng)論 5 346
  • 正文 年R本政府宣布,位于F島的核電站百新,受9級(jí)特大地震影響企软,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜饭望,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,437評(píng)論 3 331
  • 文/蒙蒙 一仗哨、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧铅辞,春花似錦厌漂、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,993評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至囤踩,卻和暖如春旨椒,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背高职。 一陣腳步聲響...
    開封第一講書人閱讀 33,107評(píng)論 1 271
  • 我被黑心中介騙來泰國打工钩乍, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人怔锌。 一個(gè)月前我還...
    沈念sama閱讀 48,308評(píng)論 3 372
  • 正文 我出身青樓寥粹,卻偏偏與公主長得像,于是被迫代替她去往敵國和親埃元。 傳聞我的和親對(duì)象是個(gè)殘疾皇子涝涤,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,037評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容

  • 前面都是在介紹如何安裝Kubeflow和pipelines,今天補(bǔ)一下Kubeflow的pipelines的知識(shí)岛杀,...
    zoux閱讀 36,858評(píng)論 7 9
  • 1.Beam前世今生 分布式數(shù)據(jù)處理發(fā)展迅猛—> 新分布式數(shù)據(jù)處理技術(shù)越來越多 —>Hadoop MapReduc...
    康小為6840閱讀 1,321評(píng)論 1 4
  • 自那一個(gè)午后就特別的害怕夜晚类嗤。靜靜的糊肠,靜靜的可以聽見自己的心跳,自己的呼吸遗锣,以及那在血管里默默流動(dòng)的液體货裹。每到這個(gè)...
    梅語清言閱讀 182評(píng)論 0 1
  • 長久以來,覺得“老”這個(gè)字離自己太遙遠(yuǎn)了精偿,甚至是避諱的弧圆。 兒時(shí)的記憶中赋兵,每每碰上這樣的事情,母親總會(huì)告誡我走遠(yuǎn)...
    兔咩咩_57f5閱讀 183評(píng)論 0 3
  • 最近我參加了一個(gè)網(wǎng)絡(luò)課程,還沒開課的時(shí)候拯田,我覺得到時(shí)候肯定沒時(shí)間历造,但是課開了,我發(fā)現(xiàn)時(shí)間還挺充足的勿锅,但是我總是東搞...
    知更鳥Robin閱讀 180評(píng)論 0 0