Kafka 2017技術峰會摘要(流計算分類)

下載全部視頻和PPT咳蔚,請關注公眾號(bigdata_summit),并點擊“視頻下載”菜單

Building Event-Driven Services with Stateful Streams

by Benjamin Stopford, Engineer, Confluent
video, slide
Event Driven Services come in many shapes and sizes from tiny event driven functions that dip into an event stream, right through to heavy, stateful services which can facilitate request response. This practical talk makes the case for building this style of system using Stream Processing tools. We also walk through a number of patterns for how we actually put these things together.

下面的內(nèi)容來自機器翻譯:
事件驅(qū)動服務具有許多形式和尺寸亿昏,從小事件驅(qū)動的功能進入事件流聚蝶,直到沉重嘹叫,有狀態(tài)的服務蓬痒,這可以方便請求響應。這個實際的談話使得使用流處理工具來構建這種類型的系統(tǒng)成為可能闯睹。我們也通過一些模式來解釋我們?nèi)绾螌⑦@些東西放在一起阀参。

Building Stateful Financial Applications with Kafka Streams

by Charles Reese, Senior Software Engineer, Funding Circle
video, slide
At Funding Circle, we are building a global lending platform with Apache Kafka and Kafka Streams to handle high volume, real-time processing with rapid clearing times similar to a stock exchange. In this talk, we will provide an overview of our system architecture and summarize key results in edge service connectivity, idempotent processing, and migration strategies.

下面的內(nèi)容來自機器翻譯:
在Funding Circle,我們正在與Apache Kafka和Kafka Streams建立一個全球性的貸款平臺瞻坝,以處理大批量蛛壳,實時的處理杏瞻,快速的結(jié)算時間與證券交易所類似。在本次演講中衙荐,我們將概述我們的系統(tǒng)架構捞挥,并總結(jié)邊緣服務連接,冪等處理和遷移策略的關鍵成果忧吟。

Fast Data in Supply Chain Planning

by Jeroen Soeters, Lead Developer, ThoughtWorks
video, slide
We are migrating one of the top 3 consumer packaged goods companies from a batch-oriented systems architecture to a streaming micro services platform. In this talk I’ll explain how we leverage the Lightbend reactive stack and Kafka to achieve this and how the 4 Kafka APIs fit in our architecture. Also I explain why Kafka Streams <3 Enterprise Integration Patterns.

下面的內(nèi)容來自機器翻譯:
我們正在將三大消費品公司之一從批處理系統(tǒng)架構遷移到流式微服務平臺砌函。在這個演講中,我將解釋我們?nèi)绾卫肔ightbend反應堆和Kafka來實現(xiàn)這個目標溜族,以及4個Kafka API如何適應我們的架構讹俊。另外我解釋了為什么Kafka Streams <3企業(yè)集成模式。

Kafka Stream Processing for Everyone with KSQL

by Nick Dearden, Director of Engineering, Confluent
video, slide
The rapidly expanding world of stream processing can be daunting, with new concepts (various types of time semantics, windowed aggregates, changelogs, and so on) and programming frameworks to master. KSQL is a new open-source project which aims to simplify all this and make stream processing available to everyone.

下面的內(nèi)容來自機器翻譯:
隨著新概念(各種類型的時間語義煌抒,窗口聚合仍劈,更新日志等)和編程框架的掌握,流處理的迅速發(fā)展的世界將變得艱巨寡壮。 KSQL是一個新的開源項目贩疙,旨在簡化所有這些工作,并為每個人提供流處理况既。

Portable Streaming Pipelines with Apache Beam

by Frances Perry, Software Engineer, Google
video, slide
Much as SQL stands as a lingua franca for declarative data analysis, Apache Beam aims to provide a portable standard for expressing robust, out-of-order data processing pipelines in a variety of languages across a variety of platforms. By cleanly separating the user’s processing logic from details of the underlying execution engine, the same pipelines will run on any Apache Beam runtime environment, whether it’s on-premise or in the cloud, on open source frameworks like Apache Spark or Apache Flink, or on managed services like Google Cloud Dataflow. In this talk, I will:

Briefly, introduce the capabilities of the Beam model for data processing and integration with IO connectors like Apache Kafka.
Discuss the benefits Beam provides regarding portability and ease-of-use.
Demo the same Beam pipeline running on multiple runners in multiple deployment scenarios (e.g. Apache Flink on Google Cloud, Apache Spark on AWS, Apache Apex on-premise).
Give a glimpse at some of the challenges Beam aims to address in the future.

下面的內(nèi)容來自機器翻譯:
就像SQL作為聲明性數(shù)據(jù)分析的通用語言一樣这溅,Apache Beam旨在提供一種便攜式標準,用于在各種平臺上以各種語言表示健壯的棒仍,無序的數(shù)據(jù)處理管道悲靴。通過將用戶的處理邏輯與基礎執(zhí)行引擎的細節(jié)完全分離,相同的管道將運行在任何Apache Beam運行時環(huán)境(無論是內(nèi)部部署還是云中)莫其,Apache Spark或Apache Flink等開放源代碼框架上癞尚,還是像谷歌云數(shù)據(jù)流管理的服務。在這個演講中榜配,我會:

簡而言之否纬,介紹Beam模型的功能吕晌,用于數(shù)據(jù)處理和IO連接器(如Apache Kafka)的集成蛋褥。
討論Beam提供的有關便攜性和易用性的好處。
在多個部署場景(例如睛驳,Google Cloud上的Apache Flink烙心,AWS上的Apache Spark,Apache Apex內(nèi)部部署)上演示運行在多個運行器上的相同Beam管道乏沸。
瞥見梁在未來要解決的一些挑戰(zhàn)淫茵。

Query the Application, Not a Database: “Interactive Queries” in Kafka’s Streams API

by Matthias Sax, Engineer, Confluent
video, slide
Kafka Streams allows to build scalable streaming apps without a cluster. This “Cluster-to-go” approach is extended by a “DB-to-go” feature: Interactive Queries allows to directly query app internal state, eliminating the need for an external DB to access this data. This avoids redundantly stored data and DB update latency, and simplifies the overall architecture, e.g., for micro-services.

下面的內(nèi)容來自機器翻譯:
Kafka Streams允許在沒有群集的情況下構建可擴展的流式應用程序。這種“Cluster-to-go”方法通過“DB-to-go”功能進行擴展:交互式查詢允許直接查詢應用程序內(nèi)部狀態(tài)蹬跃,無需外部數(shù)據(jù)庫來訪問這些數(shù)據(jù)匙瘪。這避免了冗余存儲的數(shù)據(jù)和數(shù)據(jù)庫更新等待時間,并且簡化了整體架構,例如對于微服務丹喻。

Real-Time Document Rankings with Kafka Streams

by Hunter Kelly, Senior Software/Data Engineer, Zalando
video, slide
The HITS algorithm creates a score for documents; one is “hubbiness”, the other is “authority”. Usually this is done as a batch operation, working on all the data at once. However, with careful consideration, this can be implemented in a streaming architecture using KStreams and KTables, allowing efficient real time sampling of rankings at a frequency appropriate to the specific use case.

下面的內(nèi)容來自機器翻譯:
HITS算法為文檔創(chuàng)建分數(shù);一個是“喧囂”薄货,一個是“權威”。通常這是作為批處理操作完成的碍论,一次處理所有的數(shù)據(jù)谅猾。然而,經(jīng)過慎重的考慮鳍悠,這可以在使用KStreams和KTables的流式架構中實現(xiàn)税娜,從而以適合特定用例的頻率對排名進行高效的實時采樣。

Streaming Processing in Python – 10 ways to avoid summoning Cuthulu

by Holden Karau, Principal Software Engineer, IBM
video, slide
<3 Python & want to process data from Kafka? This talk will look how to make this awesome. In many systems the traditional approach involves first reading the data into the JVM and then passing the data to Python, which can be a little slow, and on a bad day results in almost impossible to debug. This talk will look at how to be more awesome in Spark & how to do this in Kafka Streams.

下面的內(nèi)容來自機器翻譯:
<3 Python&想要處理來自Kafka的數(shù)據(jù)藏研?這個演講將看看如何使這個真棒敬矩。在許多系統(tǒng)中,傳統(tǒng)的方法是首先將數(shù)據(jù)讀入JVM遥倦,然后將數(shù)據(jù)傳遞給Python谤绳,這可能會稍微慢一點,而在糟糕的一天中袒哥,幾乎不可能調(diào)試缩筛。這個演講將討論如何在Spark中更加棒,以及如何在Kafka Streams中做到這一點堡称。

?著作權歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末瞎抛,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子却紧,更是在濱河造成了極大的恐慌桐臊,老刑警劉巖,帶你破解...
    沈念sama閱讀 211,743評論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件晓殊,死亡現(xiàn)場離奇詭異断凶,居然都是意外死亡,警方通過查閱死者的電腦和手機巫俺,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,296評論 3 385
  • 文/潘曉璐 我一進店門认烁,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人介汹,你說我怎么就攤上這事却嗡。” “怎么了嘹承?”我有些...
    開封第一講書人閱讀 157,285評論 0 348
  • 文/不壞的土叔 我叫張陵窗价,是天一觀的道長。 經(jīng)常有香客問我叹卷,道長撼港,這世上最難降的妖魔是什么坪它? 我笑而不...
    開封第一講書人閱讀 56,485評論 1 283
  • 正文 為了忘掉前任,我火速辦了婚禮帝牡,結(jié)果婚禮上哟楷,老公的妹妹穿的比我還像新娘。我一直安慰自己否灾,他們只是感情好卖擅,可當我...
    茶點故事閱讀 65,581評論 6 386
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著墨技,像睡著了一般惩阶。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上扣汪,一...
    開封第一講書人閱讀 49,821評論 1 290
  • 那天断楷,我揣著相機與錄音,去河邊找鬼崭别。 笑死冬筒,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的茅主。 我是一名探鬼主播舞痰,決...
    沈念sama閱讀 38,960評論 3 408
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼诀姚!你這毒婦竟也來了响牛?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,719評論 0 266
  • 序言:老撾萬榮一對情侶失蹤赫段,失蹤者是張志新(化名)和其女友劉穎呀打,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體糯笙,經(jīng)...
    沈念sama閱讀 44,186評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡贬丛,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,516評論 2 327
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了给涕。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片豺憔。...
    茶點故事閱讀 38,650評論 1 340
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖稠炬,靈堂內(nèi)的尸體忽然破棺而出焕阿,到底是詐尸還是另有隱情咪啡,我是刑警寧澤首启,帶...
    沈念sama閱讀 34,329評論 4 330
  • 正文 年R本政府宣布,位于F島的核電站撤摸,受9級特大地震影響毅桃,放射性物質(zhì)發(fā)生泄漏褒纲。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 39,936評論 3 313
  • 文/蒙蒙 一钥飞、第九天 我趴在偏房一處隱蔽的房頂上張望莺掠。 院中可真熱鬧,春花似錦读宙、人聲如沸彻秆。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,757評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽唇兑。三九已至,卻和暖如春桦锄,著一層夾襖步出監(jiān)牢的瞬間扎附,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,991評論 1 266
  • 我被黑心中介騙來泰國打工结耀, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留留夜,地道東北人。 一個月前我還...
    沈念sama閱讀 46,370評論 2 360
  • 正文 我出身青樓图甜,卻偏偏與公主長得像碍粥,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子黑毅,可洞房花燭夜當晚...
    茶點故事閱讀 43,527評論 2 349

推薦閱讀更多精彩內(nèi)容

  • 這個算是臨的第一張風景速寫了即纲,起形之后唯一的工具就是黑色圓珠筆。 這是什么風景區(qū)來著博肋?(瘋狂撓頭中……)
    奈何zh閱讀 262評論 4 3
  • 梅父具新筍低斋,邀我至農(nóng)家。 綠樹村旁接匪凡,桃花戶外迎膊畴。 此間真好客,車至笑聲盈病游。 臘肉新焙酒唇跨,清油老母雞, 新摘園中翠...
    飛哥判案閱讀 411評論 0 4
  • 我已經(jīng)冷靜衬衬, 不再是我买猖。 我輕巧的走在路上, 雨已過滋尉。 可是玉控, 我走到了路徑分叉的那個壞地方, 我難以抉擇狮惜, 即使...
    柳川閱讀 344評論 0 0
  • 人過40高诺,國家突然放開二孩政策碌识,單位里一批70后男男女女難掩興奮,“準備生嗎虱而?”已經(jīng)取代“吃了嗎筏餐?”成為一...
    湖田瓦瓦閱讀 297評論 0 0