消息由鍵,值和頭部組成饥伊。Kafka不識(shí)別消息中鍵和值象浑,它按字節(jié)數(shù)組處理他們蔫饰。但生產(chǎn)者和消費(fèi)者關(guān)心如何讀取這些數(shù)據(jù)。所以我們希望數(shù)據(jù)存儲(chǔ)的方式是易讀的愉豺,同時(shí)它還要盡可能地緊湊和快速編解碼篓吁。例如,JSON是自解釋的一個(gè)格式蚪拦,但是它不緊湊而且解析速度慢杖剪。Avro是apache一個(gè)快速的序列化框架,它創(chuàng)建的消息相對(duì)緊湊外盯。要讀取Avro記錄摘盆,你要有數(shù)據(jù)序列化的schema(Avro使用一個(gè)叫做schma的JSON文檔描述數(shù)據(jù)結(jié)構(gòu))。
但是饱苟,基于C語(yǔ)言的avro API在安裝時(shí)必須有jansson孩擂、snappy等一系列依賴庫(kù),且基于cmake的安裝方式也不太友好箱熬,因此需要進(jìn)行說(shuō)明如下类垦。
一、編譯snappy
1城须、下載snappy
$ wget https://github.com/google/snappy/releases/download/1.1.3/snappy-1.1.3.tar.gz
2蚤认、解壓
$ tar -xf snappy-1.1.3.tar.gz
3、生成編譯環(huán)境(系統(tǒng)中需要安裝autoconf糕伐、libtool)
$ cd snappy-1.1.3
$ autoreconf --force --install
此處如果不加參數(shù)砰琢,則在執(zhí)行下一步 make 時(shí)會(huì)報(bào)錯(cuò):
/bin/sh ./libtool --tag=CXX --mode=compile g++ -DHAVE_CONFIG_H -I. -g -O2 -MT snappy.lo -MD -MP -MF .deps/snappy.Tpo -c -o snappy.lo snappy.cc
libtool: Version mismatch error. This is libtool 2.4.2 Debian-2.4.2-1.7ubuntu1, but the
libtool: definition of this LT_INIT comes from libtool 2.2.6b.
libtool: You should recreate aclocal.m4 with macros from libtool 2.4.2 Debian-2.4.2-1.7ubuntu1
libtool: and run autoconf again.
make[1]: *** [snappy.lo] 錯(cuò)誤 63
make[1]: Leaving directory `/home/rs3000/rpm/snappy-1.1.3'
make: *** [all] 錯(cuò)誤 2
$ ./configure
4、編譯
$ make
5良瞧、拷貝生成的庫(kù)到默認(rèn)庫(kù)文件地址
$ sudo make install
或者“su”登陸root用戶
# make install
- 生成的 .h 頭文件在/usr/local/include下
- 生成的 .so .a庫(kù)文件在/usr/local/lib下
二陪汽、安裝JSON庫(kù)libjansson
1、下載源文件
$ wget http://www.digip.org/jansson/releases/jansson-2.12.tar.gz
2褥蚯、解壓
$ tar -xf jansson-2.12.tar.gz
3挚冤、生成編譯環(huán)境
$ cd jansson-2.12
$ ./configure
4、編譯
$ make
5赞庶、拷貝生成的庫(kù)到默認(rèn)庫(kù)文件地址
$ sudo make install
或者“su”登陸root用戶
# make install
- 生成的 .h 頭文件在/usr/local/include下
- 生成的 .so .a庫(kù)文件在/usr/local/lib下
三训挡、安裝Avro C的API接口庫(kù)
1、下載源文件
$ wget http://mirrors.hust.edu.cn/apache/avro/avro-1.8.2/c/avro-c-1.8.2.tar.gz
2歧强、解壓
$ tar -xf avro-c-1.8.2.tar.gz
$ cd avro-c-1.8.2
3澜薄、修改cmake文件
avro C的API庫(kù)要使用 Cmake 交叉編譯工具 來(lái)生成編譯環(huán)境,但原始的 CMakeLists.txt 文件并非最終文件摊册,作者沒(méi)有完成其中的主要庫(kù)位置snappy和jansson的指定表悬,需要做如下修改:
1) 將CMakeLists.txt的如下行內(nèi)容進(jìn)行修改
注釋
#pkg_check_modules(JANSSON jansson>=2.3)
在這一行下面增加一行
find_package(jansson)
即去掉無(wú)意義的比較jansson版本功能,改為尋找加載jansson包
2)修改FindSnappy.cmake文件
該文件中未指定libsnappy的安裝根目錄/usr/local丧靡,因此需要在開(kāi)頭增加一個(gè)定義:
set(SNAPPY_ROOT_DIR /usr/local)
3)因?yàn)樵次募袥](méi)有任何指定jansson庫(kù)的內(nèi)容蟆沫,所以會(huì)直接導(dǎo)致cmake找不到j(luò)ansson依賴,從而無(wú)法編譯温治。這里需要增加一個(gè)Findjansson.cmake文件饭庞,可以從FindSnappy.cmake直接復(fù)制而來(lái),然后修改熬荆。
由于libjansson的庫(kù)位置和Snappy相同舟山,可以簡(jiǎn)單的修改如下:
- 將文件中的
SNAPPY_
改為JANSSON_
- 將頭文件jansson.h文件和庫(kù)文件libjansson.so重新指定:
結(jié)果為:
set(JANSSON_ROOT_DIR /usr/local)
find_path(JANSSON_INCLUDE_DIR
NAMES jansson.h
HINTS ${JANSSON_ROOT_DIR}/include)
find_library(JANSSON_LIBRARIES
NAMES libjansson.so
HINTS ${JANSSON_ROOT_DIR}/lib)
4、批處理命令編譯
$ ./cmake_avrolib.sh
批處理編譯后的庫(kù)文件卤恳、頭文件和test文件在 ./build/avrolib下累盗,將./build/avrolib/include 和 ./build/avrolib/lib下,需要將相應(yīng)文件分別轉(zhuǎn)移到/usr/local下的include和lib文件夾中突琳。
libavro的編譯即告完成若债。
如果想要單步編譯,也可按照下面的步驟執(zhí)行拆融,文件直接生成到/usr/local下蠢琳。
4、生成編譯環(huán)境
$ mkdir build $ cd build $ cmake .. -DCMAKE_INSTALL_PREFIX=/usr/local -DCMAKE_BUILD_TYPE=RelWithDebInfo
注意镜豹,默認(rèn)的庫(kù)文件位置在/include 和 /lib下傲须,需要將相應(yīng)文件轉(zhuǎn)移到/usr/local下。
5趟脂、編譯
$ make
6泰讽、拷貝生成的庫(kù)到默認(rèn)庫(kù)文件地址
$ sudo make install
或者“su”登陸root用戶
# make install
編譯拷貝全部完成。