在CentOS/RHEL上編譯序列化軟件Avro的C語(yǔ)言接口庫(kù)

消息由鍵,值和頭部組成饥伊。Kafka不識(shí)別消息中鍵和值象浑,它按字節(jié)數(shù)組處理他們蔫饰。但生產(chǎn)者和消費(fèi)者關(guān)心如何讀取這些數(shù)據(jù)。所以我們希望數(shù)據(jù)存儲(chǔ)的方式是易讀的愉豺,同時(shí)它還要盡可能地緊湊和快速編解碼篓吁。例如,JSON是自解釋的一個(gè)格式蚪拦,但是它不緊湊而且解析速度慢杖剪。Avro是apache一個(gè)快速的序列化框架,它創(chuàng)建的消息相對(duì)緊湊外盯。要讀取Avro記錄摘盆,你要有數(shù)據(jù)序列化的schema(Avro使用一個(gè)叫做schma的JSON文檔描述數(shù)據(jù)結(jié)構(gòu))。

但是饱苟,基于C語(yǔ)言的avro API在安裝時(shí)必須有jansson孩擂、snappy等一系列依賴庫(kù),且基于cmake的安裝方式也不太友好箱熬,因此需要進(jìn)行說(shuō)明如下类垦。

一、編譯snappy

1城须、下載snappy

$ wget https://github.com/google/snappy/releases/download/1.1.3/snappy-1.1.3.tar.gz

2蚤认、解壓

$ tar -xf snappy-1.1.3.tar.gz

3、生成編譯環(huán)境(系統(tǒng)中需要安裝autoconf糕伐、libtool)

$ cd snappy-1.1.3
$ autoreconf --force --install

此處如果不加參數(shù)砰琢,則在執(zhí)行下一步 make 時(shí)會(huì)報(bào)錯(cuò):

/bin/sh ./libtool --tag=CXX --mode=compile g++ -DHAVE_CONFIG_H -I. -g -O2 -MT snappy.lo -MD -MP -MF .deps/snappy.Tpo -c -o snappy.lo snappy.cc
libtool: Version mismatch error. This is libtool 2.4.2 Debian-2.4.2-1.7ubuntu1, but the
libtool: definition of this LT_INIT comes from libtool 2.2.6b.
libtool: You should recreate aclocal.m4 with macros from libtool 2.4.2 Debian-2.4.2-1.7ubuntu1
libtool: and run autoconf again.
make[1]: *** [snappy.lo] 錯(cuò)誤 63
make[1]: Leaving directory `/home/rs3000/rpm/snappy-1.1.3'
make: *** [all] 錯(cuò)誤 2

$ ./configure

4、編譯

$ make

5良瞧、拷貝生成的庫(kù)到默認(rèn)庫(kù)文件地址

$ sudo make install

或者“su”登陸root用戶

# make install
  • 生成的 .h 頭文件在/usr/local/include下
  • 生成的 .so .a庫(kù)文件在/usr/local/lib下

二陪汽、安裝JSON庫(kù)libjansson

1、下載源文件

$ wget http://www.digip.org/jansson/releases/jansson-2.12.tar.gz

2褥蚯、解壓

$ tar -xf jansson-2.12.tar.gz

3挚冤、生成編譯環(huán)境

$ cd jansson-2.12
$ ./configure

4、編譯

$ make

5赞庶、拷貝生成的庫(kù)到默認(rèn)庫(kù)文件地址

$ sudo make install

或者“su”登陸root用戶

# make install
  • 生成的 .h 頭文件在/usr/local/include下
  • 生成的 .so .a庫(kù)文件在/usr/local/lib下

三训挡、安裝Avro C的API接口庫(kù)

1、下載源文件

$ wget http://mirrors.hust.edu.cn/apache/avro/avro-1.8.2/c/avro-c-1.8.2.tar.gz

2歧强、解壓

$ tar -xf avro-c-1.8.2.tar.gz
$ cd avro-c-1.8.2

3澜薄、修改cmake文件
avro C的API庫(kù)要使用 Cmake 交叉編譯工具 來(lái)生成編譯環(huán)境,但原始的 CMakeLists.txt 文件并非最終文件摊册,作者沒(méi)有完成其中的主要庫(kù)位置snappy和jansson的指定表悬,需要做如下修改:

1) 將CMakeLists.txt的如下行內(nèi)容進(jìn)行修改
注釋

#pkg_check_modules(JANSSON jansson>=2.3)

在這一行下面增加一行

find_package(jansson)

即去掉無(wú)意義的比較jansson版本功能,改為尋找加載jansson包

2)修改FindSnappy.cmake文件
該文件中未指定libsnappy的安裝根目錄/usr/local丧靡,因此需要在開(kāi)頭增加一個(gè)定義:

set(SNAPPY_ROOT_DIR /usr/local)

3)因?yàn)樵次募袥](méi)有任何指定jansson庫(kù)的內(nèi)容蟆沫,所以會(huì)直接導(dǎo)致cmake找不到j(luò)ansson依賴,從而無(wú)法編譯温治。這里需要增加一個(gè)Findjansson.cmake文件饭庞,可以從FindSnappy.cmake直接復(fù)制而來(lái),然后修改熬荆。
由于libjansson的庫(kù)位置和Snappy相同舟山,可以簡(jiǎn)單的修改如下:

  • 將文件中的 SNAPPY_ 改為 JANSSON_
  • 將頭文件jansson.h文件和庫(kù)文件libjansson.so重新指定:

結(jié)果為:

set(JANSSON_ROOT_DIR /usr/local)

find_path(JANSSON_INCLUDE_DIR
    NAMES jansson.h
    HINTS ${JANSSON_ROOT_DIR}/include)

find_library(JANSSON_LIBRARIES
    NAMES libjansson.so
    HINTS ${JANSSON_ROOT_DIR}/lib)

4、批處理命令編譯

$ ./cmake_avrolib.sh

批處理編譯后的庫(kù)文件卤恳、頭文件和test文件在 ./build/avrolib下累盗,將./build/avrolib/include 和 ./build/avrolib/lib下,需要將相應(yīng)文件分別轉(zhuǎn)移到/usr/local下的include和lib文件夾中突琳。

libavro的編譯即告完成若债。

如果想要單步編譯,也可按照下面的步驟執(zhí)行拆融,文件直接生成到/usr/local下蠢琳。

4、生成編譯環(huán)境

$ mkdir build
$ cd build
$ cmake .. -DCMAKE_INSTALL_PREFIX=/usr/local -DCMAKE_BUILD_TYPE=RelWithDebInfo

注意镜豹,默認(rèn)的庫(kù)文件位置在/include 和 /lib下傲须,需要將相應(yīng)文件轉(zhuǎn)移到/usr/local下。

5趟脂、編譯

$ make

6泰讽、拷貝生成的庫(kù)到默認(rèn)庫(kù)文件地址

$ sudo make install

或者“su”登陸root用戶

# make install

編譯拷貝全部完成。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末昔期,一起剝皮案震驚了整個(gè)濱河市已卸,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌镇眷,老刑警劉巖咬最,帶你破解...
    沈念sama閱讀 216,591評(píng)論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異欠动,居然都是意外死亡永乌,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,448評(píng)論 3 392
  • 文/潘曉璐 我一進(jìn)店門具伍,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)翅雏,“玉大人,你說(shuō)我怎么就攤上這事人芽⊥福” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 162,823評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵萤厅,是天一觀的道長(zhǎng)橄抹。 經(jīng)常有香客問(wèn)我靴迫,道長(zhǎng),這世上最難降的妖魔是什么楼誓? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,204評(píng)論 1 292
  • 正文 為了忘掉前任玉锌,我火速辦了婚禮,結(jié)果婚禮上疟羹,老公的妹妹穿的比我還像新娘主守。我一直安慰自己,他們只是感情好榄融,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,228評(píng)論 6 388
  • 文/花漫 我一把揭開(kāi)白布参淫。 她就那樣靜靜地躺著,像睡著了一般愧杯。 火紅的嫁衣襯著肌膚如雪涎才。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 51,190評(píng)論 1 299
  • 那天民效,我揣著相機(jī)與錄音憔维,去河邊找鬼。 笑死畏邢,一個(gè)胖子當(dāng)著我的面吹牛业扒,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播舒萎,決...
    沈念sama閱讀 40,078評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼程储,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了臂寝?” 一聲冷哼從身側(cè)響起章鲤,我...
    開(kāi)封第一講書(shū)人閱讀 38,923評(píng)論 0 274
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎咆贬,沒(méi)想到半個(gè)月后败徊,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,334評(píng)論 1 310
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡掏缎,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,550評(píng)論 2 333
  • 正文 我和宋清朗相戀三年皱蹦,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片眷蜈。...
    茶點(diǎn)故事閱讀 39,727評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡沪哺,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出酌儒,到底是詐尸還是另有隱情辜妓,我是刑警寧澤,帶...
    沈念sama閱讀 35,428評(píng)論 5 343
  • 正文 年R本政府宣布,位于F島的核電站籍滴,受9級(jí)特大地震影響酪夷,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜异逐,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,022評(píng)論 3 326
  • 文/蒙蒙 一捶索、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧灰瞻,春花似錦、人聲如沸辅甥。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,672評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)璃弄。三九已至要销,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間夏块,已是汗流浹背疏咐。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 32,826評(píng)論 1 269
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留脐供,地道東北人浑塞。 一個(gè)月前我還...
    沈念sama閱讀 47,734評(píng)論 2 368
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像政己,于是被迫代替她去往敵國(guó)和親酌壕。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,619評(píng)論 2 354

推薦閱讀更多精彩內(nèi)容