點(diǎn)云(Point Cloud)
接觸三維重建或者立體視覺(jué)相關(guān)問(wèn)題的時(shí)候陷揪,點(diǎn)云是第一個(gè)需要掌握的概念王滤。
簡(jiǎn)單來(lái)講腿准,點(diǎn)云就是多唯空間中的點(diǎn)的集合际起,一般而言,指的是三維空間中的點(diǎn)集吐葱。在PCL中街望,點(diǎn)云被表示成一種數(shù)據(jù)結(jié)構(gòu)。我們用X-Y-Z三維來(lái)表示一個(gè)采樣曲面的幾何坐標(biāo)弟跑。如下灾前,當(dāng)我們對(duì)其表面著色后,點(diǎn)云變?yōu)?唯的孟辑。
獲取點(diǎn)云的方式有很多:比如一些硬件傳感器(如立體相機(jī)哎甲,3D掃描儀,TOF相機(jī)),或者通過(guò)程序計(jì)算饲嗽,比如SFM算法炭玫。
很高興的是PCL原生支持OpenNI從而能夠很好的直接處理深度相機(jī)( PrimeSensor 3D cameras, Microsoft Kinect和 Asus XTionPRO)的數(shù)據(jù)貌虾。另外說(shuō)明一下吞加,Kinect和華碩的這款本質(zhì)上都是采用PrimeSense的結(jié)構(gòu)光技術(shù)的深度相機(jī)。OpenNI現(xiàn)在也由Primesense維護(hù),而Primesense已被蘋(píng)果收購(gòu)衔憨。有時(shí)間對(duì)這些硬件和產(chǎn)業(yè)叶圃,包括眼鏡和深度相機(jī)也做一下歸納吧。
PCL(Point Cloud Library)簡(jiǎn)介
點(diǎn)云庫(kù)Point Cloud Library (or PCL) 是一個(gè)大型的用于處理2D/3D圖像和點(diǎn)云的開(kāi)源項(xiàng)目践图。它實(shí)現(xiàn)了立體視覺(jué)領(lǐng)域眾多的前沿算法掺冠,包括濾波,特征提取码党,表面重建赫舒,相機(jī)標(biāo)定,模型擬合闽瓢,分割接癌,可視化等許多功能,如圖。
PCL項(xiàng)目遵循 3-clause BSD license 協(xié)議扣讼,能同時(shí)用于學(xué)術(shù)和商業(yè)用途缺猛。它也是跨平臺(tái)的,目前支持五大平臺(tái)(Linux椭符,MacOS, Windows, 和 Android/iOS. )
目前荔燎,與立體視覺(jué)結(jié)合最緊密的研究方向當(dāng)屬機(jī)器人了,PCL與機(jī)器人操作系統(tǒng)ROS集成良好销钝,并已經(jīng)有很好的實(shí)際應(yīng)用有咨。SLAM移動(dòng)機(jī)器人導(dǎo)航,尤其是VisualSLAM領(lǐng)域的蓬勃發(fā)展,VR/AR的不斷發(fā)酵蒸健,三維重建等的發(fā)展會(huì)更加促進(jìn)立體視覺(jué)的發(fā)展座享,PCL的重要性不言而喻。
PCL代碼風(fēng)格良好似忧,全部由C++編寫(xiě)渣叛,其中的矩陣操作使用了線(xiàn)性代數(shù)函數(shù)庫(kù)Eigen。此外盯捌,PCL也支持并行化淳衙,如OpenMP和Intel Threading Building Blocks。在PCL的所有模塊中饺著,數(shù)據(jù)的傳遞都是通過(guò)Boost的智能指針Share Pointer箫攀,如此可以減少系統(tǒng)中數(shù)據(jù)的多余復(fù)制。
再來(lái)說(shuō)下PCL的各個(gè)模塊幼衰,它們可以獨(dú)立編譯靴跛,獨(dú)立運(yùn)行。它的一般工作模式如下:
- 新建一個(gè)處理類(lèi)(Project)(比如塑顺,filter汤求,feature estimation俏险,segmentation等)
- 使用
setInputCloud
將點(diǎn)云(Point Cloud)數(shù)據(jù)輸入到處理模塊中 - 設(shè)定一些必要的參數(shù)
- 調(diào)用
compute
或者其他的函數(shù)如(filter严拒,segment等)得到輸出
主要模塊包括:
-
libpcl_filter:
功能包括將采樣(downsampling)扬绪,例外點(diǎn)去除,索引提取裤唠,投影等 -
libpcl_features:
實(shí)現(xiàn)了許多3D特征挤牛,比如表面法向量和曲率,邊緣點(diǎn)估計(jì)种蘸,不變矩(moment invariants)墓赴,主曲率,PFH和FPFH(Fast point feature histogram)描述子航瞭,旋轉(zhuǎn)圖像(spin image)诫硕,積分圖像(integral image),NARF描述符刊侯,RIFT章办,RSD,VFH滨彻,基于強(qiáng)度數(shù)據(jù)的SIFT算法等藕届。
后面我覺(jué)得也會(huì)有一些采用深度學(xué)習(xí)方法訓(xùn)練特征的算法加入到PCL中。 -
libpcl_io:
I/O操作的函數(shù)亭饵,如讀寫(xiě)點(diǎn)云數(shù)據(jù)PCD(point cloud data)的函數(shù) -
libpcl_segmentation:
實(shí)現(xiàn)了聚類(lèi)提取休偶,或者為某些參數(shù)模型通過(guò)采樣一致的方法提供模型擬合等 -
libpcl_surface:
實(shí)現(xiàn)了表面重建的一些算法,如meshing辜羊,圖包算法(convex hull)和移動(dòng)最小二乘(moving least squares)等 -
libpcl_registration:
ICP匹配算法等 -
libpcl_keypoints:
預(yù)處理的一些算法踏兜,對(duì)關(guān)鍵點(diǎn)預(yù)處理方便后續(xù)提取特征描述符 -
libpcl_range_image:
深度圖(range image)的建立函數(shù)等
為了保證操作的正確性,上述每個(gè)庫(kù)中的方法和類(lèi)都提供了單元和回歸測(cè)試八秃,如果添加的新功能或者某個(gè)修改沒(méi)有通過(guò)測(cè)試庇麦,該作者會(huì)收到通知。
PCL的設(shè)計(jì)哲學(xué)
Perception Processing Graphs
這個(gè)道理的潛在認(rèn)為對(duì)點(diǎn)云處理的各個(gè)模塊可以認(rèn)為是獨(dú)立編譯的一部分喜德,通過(guò)調(diào)整參數(shù)可以分別應(yīng)對(duì)某一類(lèi)問(wèn)題山橄。
由于點(diǎn)云數(shù)據(jù)通常比較大,為了避免不必要的拷貝和關(guān)鍵程序的序列化舍悯,PCL創(chuàng)建了nodelets航棱,一種可以動(dòng)態(tài)加載的插件模式。
可視化
PCL基于VTK實(shí)現(xiàn)了自己的可視化庫(kù)萌衬,從而方便用戶(hù)快速查看自己的模型饮醇,不管這種模型是通過(guò)參數(shù)公式設(shè)定還是從點(diǎn)云而來(lái)。
可視化庫(kù)也提供了渲染(rendering)以及處理PCD的方法等秕豫。使用可視化庫(kù)的一般流程如下:
using namespace pcl visualization;
PCLVisualizer p (“Test”);
PointCloudColorHandlerRandom handler (cloud);
p.addPointCloud (cloud, handler, ”cloud random”);
p.spin ();
p.removePointCloud (”cloud random”);
PointCloudGeometryHandlerSurfaceNormal handler2 (cloud);
p.addPointCloud (cloud, handler2, ”cloud random”);
p.spin ();
貢獻(xiàn)代碼的好處
使用開(kāi)源庫(kù)的用戶(hù)會(huì)遇到兩個(gè)問(wèn)題:
- 有新的需求朴艰,而開(kāi)源庫(kù)還沒(méi)有更新
- 功能有Bug观蓄,但是沒(méi)有fix
這個(gè)時(shí)候如果你完成了上述工作,那么別人也許會(huì)從中受益祠墅。換個(gè)角度侮穿,如果每個(gè)人碰到這種情況都采取這種處理方式呢?
總而言之毁嗦,開(kāi)源項(xiàng)目亲茅,就是大家合作一起做一件事,我為人人狗准,人人為我克锣。
再引用Linus法則“given enough eyeballs, all bugs are shallow”,貢獻(xiàn)你的代碼給大家閱讀腔长,你的代碼會(huì)面臨挑戰(zhàn)袭祟,會(huì)促使你不斷提高自己的代碼質(zhì)量。還有捞附,程序員的榮譽(yù)和成就感巾乳,這些也是參與其中才能體會(huì)到的。
當(dāng)然故俐,每個(gè)人的情況不一樣想鹰,就不一一列舉啦。
Next 將會(huì)介紹如何著手貢獻(xiàn)一個(gè)具體的功能源碼以及介紹PCL的源碼風(fēng)格