介紹
ProtoBuf 是google團(tuán)隊(duì)開(kāi)發(fā)的用于高效存儲(chǔ)和讀取結(jié)構(gòu)化數(shù)據(jù)的工具榨乎。什么是結(jié)構(gòu)化數(shù)據(jù)呢,正如字面上表達(dá)的负饲,就是帶有一定結(jié)構(gòu)的數(shù)據(jù)堤魁。比如電話簿上有很多記錄數(shù)據(jù),每條記錄包含姓名返十、ID妥泉、郵件、電話等洞坑,這種結(jié)構(gòu)重復(fù)出現(xiàn)盲链。
同類
XML、JSON 也可以用來(lái)存儲(chǔ)此類結(jié)構(gòu)化數(shù)據(jù)迟杂,但是使用ProtoBuf表示的數(shù)據(jù)能更加高效刽沾,并且將數(shù)據(jù)壓縮得更小。
原理
ProtoBuf 是通過(guò)ProtoBuf編譯器將與編程語(yǔ)言無(wú)關(guān)的特有的 .proto 后綴的數(shù)據(jù)結(jié)構(gòu)文件編譯成各個(gè)編程語(yǔ)言(Java,C/C++,Python)專用的類文件,然后通過(guò)Google提供的各個(gè)編程語(yǔ)言的支持庫(kù)lib即可調(diào)用API排拷。(關(guān)于proto結(jié)構(gòu)體怎么編寫侧漓,可自行查閱文檔)
ProtoBuf編譯器安裝
Mac :
brew install protobuf
舉個(gè)例子
1. 先創(chuàng)建一個(gè)proto文件
message.proto
syntax = "proto3";
message Person {
int32 id = 1;
string name = 2;
repeated Phone phone = 4;
enum PhoneType {
MOBILE = 0;
HOME = 1;
WORK = 2;
}
message Phone {
string number = 1;
PhoneType type = 2;
}
}
2. 創(chuàng)建一個(gè)Java項(xiàng)目
并且將proto文件放置 src/main/proto 文件夾下
3. 編譯proto文件至Java版本
- 用命令行 cd 到 src/main 目錄下
- 終端執(zhí)行命令 : protoc --java_out=./java ./proto/*.proto
- 會(huì)發(fā)現(xiàn),在你的src/main/java 里已經(jīng)生成里對(duì)應(yīng)的Java類
4. 依賴Java版本的ProtoBuf支持庫(kù)
這里只舉一個(gè)用Gradle使用依賴的栗子
implementation 'com.google.protobuf:protobuf-java:3.9.1'
5. 將Java對(duì)象轉(zhuǎn)為ProtoBuf數(shù)據(jù)
Message.Person.Phone.Builder phoneBuilder = Message.Person.Phone.newBuilder();
Message.Person.Phone phone1 = phoneBuilder
.setNumber("100860")
.setType(Message.Person.PhoneType.HOME)
.build();
Message.Person.Phone phone2 = phoneBuilder
.setNumber("100100")
.setType(Message.Person.PhoneType.MOBILE)
.build();
Message.Person.Builder personBuilder = Message.Person.newBuilder();
personBuilder.setId(1994);
personBuilder.setName("XIAOLEI");
personBuilder.addPhone(phone1);
personBuilder.addPhone(phone2);
Message.Person person = personBuilder.build();
long old = System.currentTimeMillis();
byte[] buff = person.toByteArray();
System.out.println("ProtoBuf 編碼耗時(shí):" + (System.currentTimeMillis() - old));
System.out.println(Arrays.toString(buff));
System.out.println("ProtoBuf 數(shù)據(jù)長(zhǎng)度:" + buff.length);
6. 將ProtoBuf數(shù)據(jù)监氢,轉(zhuǎn)換回Java對(duì)象
System.out.println("-開(kāi)始解碼-");
old = System.currentTimeMillis();
Message.Person personOut = Message.Person.parseFrom(buff);
System.out.println("ProtoBuf 解碼耗時(shí):" + (System.currentTimeMillis() - old));
System.out.printf("Id:%d, Name:%s\n", personOut.getId(), personOut.getName());
List<Message.Person.Phone> phoneList = personOut.getPhoneList();
for (Message.Person.Phone phone : phoneList)
{
System.out.printf("手機(jī)號(hào):%s (%s)\n", phone.getNumber(), phone.getType());
}
比較
為了能體現(xiàn)ProtoBuf的優(yōu)勢(shì)布蔗,我寫了同樣結(jié)構(gòu)體的Java類,并且將Java對(duì)象轉(zhuǎn)換成JSON數(shù)據(jù)忙菠,來(lái)與ProtoBuf進(jìn)行比較何鸡。JSON編譯庫(kù)使用Google提供的GSON庫(kù),JSON的部分代碼就不貼出來(lái)了牛欢,直接展示結(jié)果
比較結(jié)果結(jié)果
-
運(yùn)行 1 次
【 JSON 開(kāi)始編碼 】
JSON 編碼1次骡男,耗時(shí):22ms
JSON 數(shù)據(jù)長(zhǎng)度:106
-開(kāi)始解碼-
JSON 解碼1次,耗時(shí):1ms
【 ProtoBuf 開(kāi)始編碼 】
ProtoBuf 編碼1次,耗時(shí):32ms
ProtoBuf 數(shù)據(jù)長(zhǎng)度:34
-開(kāi)始解碼-
ProtoBuf 解碼1次,耗時(shí):3ms
-
運(yùn)行 10 次
【 JSON 開(kāi)始編碼 】
JSON 編碼10次傍睹,耗時(shí):22ms
JSON 數(shù)據(jù)長(zhǎng)度:106
-開(kāi)始解碼-
JSON 解碼10次隔盛,耗時(shí):4ms
【 ProtoBuf 開(kāi)始編碼 】
ProtoBuf 編碼10次,耗時(shí):29ms
ProtoBuf 數(shù)據(jù)長(zhǎng)度:34
-開(kāi)始解碼-
ProtoBuf 解碼10次,耗時(shí):3ms
-
運(yùn)行 100 次
【 JSON 開(kāi)始編碼 】
JSON 編碼100次,耗時(shí):32ms
JSON 數(shù)據(jù)長(zhǎng)度:106
-開(kāi)始解碼-
JSON 解碼100次拾稳,耗時(shí):8ms
【 ProtoBuf 開(kāi)始編碼 】
ProtoBuf 編碼100次,耗時(shí):31ms
ProtoBuf 數(shù)據(jù)長(zhǎng)度:34
-開(kāi)始解碼-
ProtoBuf 解碼100次,耗時(shí):4ms
-
運(yùn)行 1000 次
【 JSON 開(kāi)始編碼 】
JSON 編碼1000次吮炕,耗時(shí):39ms
JSON 數(shù)據(jù)長(zhǎng)度:106
-開(kāi)始解碼-
JSON 解碼1000次,耗時(shí):21ms
【 ProtoBuf 開(kāi)始編碼 】
ProtoBuf 編碼1000次,耗時(shí):37ms
ProtoBuf 數(shù)據(jù)長(zhǎng)度:34
-開(kāi)始解碼-
ProtoBuf 解碼1000次,耗時(shí):8ms
-
運(yùn)行 1萬(wàn) 次
【 JSON 開(kāi)始編碼 】
JSON 編碼10000次访得,耗時(shí):126ms
JSON 數(shù)據(jù)長(zhǎng)度:106
-開(kāi)始解碼-
JSON 解碼10000次龙亲,耗時(shí):93ms
【 ProtoBuf 開(kāi)始編碼 】
ProtoBuf 編碼10000次,耗時(shí):49ms
ProtoBuf 數(shù)據(jù)長(zhǎng)度:34
-開(kāi)始解碼-
ProtoBuf 解碼10000次,耗時(shí):23ms
-
運(yùn)行 10萬(wàn) 次
【 JSON 開(kāi)始編碼 】
JSON 編碼100000次陕凹,耗時(shí):248ms
JSON 數(shù)據(jù)長(zhǎng)度:106
-開(kāi)始解碼-
JSON 解碼100000次,耗時(shí):180ms
【 ProtoBuf 開(kāi)始編碼 】
ProtoBuf 編碼100000次,耗時(shí):51ms
ProtoBuf 數(shù)據(jù)長(zhǎng)度:34
-開(kāi)始解碼-
ProtoBuf 解碼100000次,耗時(shí):58ms
總結(jié)
編解碼性能
上述栗子只是簡(jiǎn)單的采樣鳄炉,實(shí)際上據(jù)我的實(shí)驗(yàn)發(fā)現(xiàn)
- 次數(shù)在1千以下杜耙,ProtoBuf 的編碼與解碼性能,都與JSON不相上下拂盯,甚至還有比JSON差的趨勢(shì)佑女。
- 次數(shù)在2千以上,ProtoBuf的編碼解碼性能谈竿,都比JSON高出很多团驱。
- 次數(shù)在10萬(wàn)以上,ProtoBuf的編解碼性能就很明顯了空凸,遠(yuǎn)遠(yuǎn)高出JSON的性能嚎花。
內(nèi)存占用
ProtoBuf的內(nèi)存34,而JSON到達(dá)106 呀洲,ProtoBuf的內(nèi)存占用只有JSON的1/3.
結(jié)尾
其實(shí)這次實(shí)驗(yàn)有很多可待優(yōu)化的地方贩幻,就算是這種粗略的測(cè)試,也能看出來(lái)ProtoBuf的優(yōu)勢(shì)两嘴。
兼容
新增字段
- 在proto文件中新增 nickname 字段
- 生成Java文件
- 用老proto字節(jié)數(shù)組數(shù)據(jù)丛楚,轉(zhuǎn)換成對(duì)象
Id:1994, Name:XIAOLEI
手機(jī)號(hào):100860 (HOME)
手機(jī)號(hào):100100 (MOBILE)
getNickname=
結(jié)果,是可以轉(zhuǎn)換成功憔辫。
刪除字段
- 在proto文件中刪除 name 字段
- 生成Java文件
- 用老proto字節(jié)數(shù)組數(shù)據(jù)趣些,轉(zhuǎn)換成對(duì)象
Id:1994, Name:null
手機(jī)號(hào):100860 (HOME)
手機(jī)號(hào):100100 (MOBILE)
結(jié)果,是可以轉(zhuǎn)換成功贰您。
老群被封坏平,+新Q群709287944