? ? ? ??1999 年上映的《黑客帝國》,在科幻愛好者間引起了一股熱潮,主角 Neo 在虛擬世界中有如神一般诸迟,隨心所欲的瞬間切換場所紊册,飛天入地,甚至能躲開飛速而來的子彈。
????????雖然這一切都只存在于Matrix的虛擬空間中,但因?yàn)楦鞣N感官刺激信號通過頭部后面的接口直接傳入大腦,繞過了各種感受器官纳击。所有的感受(觸覺设联、視覺、嗅覺 等等)都與真實(shí)無異衰絮。對于人類來說,根本區(qū)分不開現(xiàn)實(shí)與虛幻二汛。
????????然而在人類現(xiàn)今技術(shù)水平下提完,腦后 “插管” 的方式只是科學(xué)幻想秽澳。當(dāng)前的虛擬現(xiàn)實(shí)躬窜,還只能通過在“外部” 干預(yù)各個感官(眼睛朦前、耳朵 等)的輸入莫其,來營造 虛擬 的氛圍。比如聂儒,最常見的 VR眼鏡,3D環(huán)繞音響涧卵,震動反饋手套 等等讼庇。其中以VR眼鏡的實(shí)現(xiàn)難度最大哈街,技術(shù)含量最高帝牡,因?yàn)槿说难劬κ墙邮招畔⒘孔畲蟮钠鞴倌锵悖彩亲铍y欺騙的器官糯笙。.
一、VR與AR
????????VR撩银,虛擬現(xiàn)實(shí)给涕,是指視野中的整個環(huán)境都是虛擬出來的,跟現(xiàn)實(shí)場景可以沒有任何關(guān)系额获。你在自己家客廳里帶上VR眼鏡够庙,可以瞬間來到外星球,跟好友們一起玩太空對戰(zhàn)游戲抄邀。電影《頭號玩家》就是描繪了這樣一個世界耘眨。
? ??????AR,是指視野中仍然有現(xiàn)實(shí)世界的影像境肾,但是在影像之上剔难,額外疊加上虛擬的物體胆屿,疊加的物體需要跟現(xiàn)實(shí)場景能有“互動”,比如 能貼合到墻壁上偶宫,能放置在桌子上等非迹,所以是對現(xiàn)實(shí)的增強(qiáng),于是叫做增強(qiáng)現(xiàn)實(shí)纯趋。
1.AR 與 VR 光學(xué)結(jié)構(gòu)上的區(qū)別
? ? ? ? VR的光學(xué)相對簡單憎兽,其實(shí)就是一個凸透鏡成像,但是吵冒,這種光學(xué)結(jié)構(gòu)纯命,也決定了它當(dāng)前很難小型化,因?yàn)?屏幕和 鏡片 之間需要保持一定的距離痹栖,以保證正確的成像亿汞。
? ??????AR,因?yàn)樵陲@示影像的同時揪阿,不能耽誤看前面的景物疗我,這就使得光學(xué)變得相對麻煩很多。目前有三種主流的方案:離軸反射图甜、Birdbath、光波導(dǎo)
2. AR 與 VR 在定位識別技術(shù)上的區(qū)別與聯(lián)系
????????AR的光學(xué)結(jié)構(gòu)使其能夠在現(xiàn)實(shí)場景之上疊加現(xiàn)實(shí)虛擬物體鳖眼,但是這只是第一步黑毅。AR要想疊的準(zhǔn),還要需要 “理解” 眼前的現(xiàn)實(shí)場景钦讳,這就用到了?SLAM(實(shí)時定位與建圖)技術(shù)矿瘦。它是通過攝像頭拍攝現(xiàn)實(shí)場景,檢測追蹤現(xiàn)實(shí)環(huán)境中的各種特征點(diǎn)愿卒,來對現(xiàn)實(shí)場景進(jìn)行3D建模缚去、平面檢測等。只有對把現(xiàn)實(shí)場景的3D形態(tài)轉(zhuǎn)化成數(shù)字信息后琼开,虛擬物體才能比較真實(shí)的“放置” 到現(xiàn)實(shí)場景中易结。
? ??????而 VR 中,因?yàn)樗械膱鼍拔矬w都是?虛擬?的柜候,所以就不需要做SLAM來對現(xiàn)實(shí)環(huán)境進(jìn)行檢測和3D重建搞动。但是為了正確地顯示虛擬場景,它需要對頭部的姿態(tài)做實(shí)時定位渣刷。早期的VR眼鏡的六自由度定位鹦肿,都是靠在場地中架設(shè)額外的設(shè)備配合眼鏡里的傳感器來實(shí)現(xiàn)定位(OutsideIn),而近年來新興起了 InsideOut 定位技術(shù)辅柴,則是靠頭盔上的自帶的攝像頭拍攝外部景物箩溃,來反向估計(jì)自己的姿態(tài)瞭吃,進(jìn)行定位。這就使得 VR 跟SLAM 也扯上了關(guān)系涣旨。
二歪架、VR技術(shù)的發(fā)展過程
從曲線中可以看出,一個新技術(shù)的發(fā)展過程中开泽,會存在這樣一個規(guī)律:
新技術(shù)誕生 (Technology Trigger):新技術(shù)被提出牡拇,開始逐步進(jìn)入大眾視野,不斷有原型產(chǎn)品被開發(fā)出來穆律,刺激著大眾的好奇心惠呼。
期望膨脹(Peak of Inflated Expectations):大眾企業(yè)/研究機(jī)構(gòu) 開始倉促進(jìn)入新領(lǐng)域,意圖抓住新的增長點(diǎn)峦耘,占領(lǐng)先機(jī)剔蹋。在這個時期,人們往往忽視新技術(shù)的不足辅髓,盲目的投入人力物力泣崩,同時,媒介宣傳上洛口,也會盲目樂觀矫付, 迎合大眾的興趣,過高的宣傳新技術(shù)的光明前景第焰。
泡沫破滅 (Trough of Disillusionment):當(dāng)一批批的產(chǎn)品被研發(fā)出來买优,并倉促投入到市場中時,人們終于發(fā)現(xiàn)挺举,原來所謂的“光明前景”遠(yuǎn)遠(yuǎn)沒有到來杀赢,各種負(fù)面的評價接踵而至,企業(yè)也終于認(rèn)清現(xiàn)實(shí)湘纵,開始收緊投資脂崔,整個市場逐漸冷淡下來。
啟蒙期 (Slope of Enlightenment):基于第一波產(chǎn)品的失敗經(jīng)驗(yàn)教訓(xùn)梧喷,人們開始緩慢地對新技術(shù)進(jìn)行改進(jìn)砌左,逐步提升效果
穩(wěn)定生產(chǎn) (Plateau of Productivity):當(dāng)新技術(shù)的性能/效果,最終能滿足需求時铺敌,才進(jìn)入實(shí)質(zhì)的普及生產(chǎn)階段绊困。
? ??????其中比較有名的 Virtual Boy (任天堂出品),只支持 紅黑 兩色顯示适刀,單眼分辨率只有384x224秤朗,顆粒感非常嚴(yán)重。被玩家詬病笔喉,所以取视,作為 VR 的 “早產(chǎn)兒”硝皂,它們無一例外的迅速在市場上銷聲匿跡。制造者們也認(rèn)清了理想與現(xiàn)實(shí)間的巨大壁壘作谭,紛紛偃旗息鼓稽物,坐等技術(shù)的進(jìn)一步發(fā)展。
三折欠、基本原理:
? ? ? ? VR眼鏡的基本原理就是把一個顯示器罩在人的眼睛上贝或,人向哪里看,就在顯示器里顯示對應(yīng)方向的景物锐秦,從而讓人感覺自己身處一個無限大的虛擬空間中咪奖。
1.?處理器
????????計(jì)算的核心,用來生成圖像,根據(jù)陀螺儀數(shù)據(jù)計(jì)算姿態(tài)定位 等。為了防止眩暈蹬昌,VR眼鏡要求圖像刷新率達(dá)到90Hz。這對運(yùn)算速度要求很高昧捷。所以,一個VR眼鏡的處理器芯片性能指標(biāo)至關(guān)重要罐寨。
2.?顯示器
????????分別向左右眼睛顯示圖像靡挥。一般當(dāng)我們說 2k 屏幕的VR眼鏡 時,是指一整塊屏幕的長邊的尺寸鸯绿,比如 2k*1k 尺寸跋破。但如果說:單眼2k,則是指屏幕短邊的尺寸是2k楞慈。2017年幔烛,市場上主流的配置是 單眼1.5k左右啃擦。屏幕分辨率越高囊蓝,要求配備的處理器也越強(qiáng)大。
3.?凸透鏡片
????????如果把顯示器直接貼在人眼前令蛉,人眼是很難聚焦這么近的物體的聚霜。凸透鏡片的目的,就是通過折射光線珠叔,將顯示器上的畫面成像拉近到視網(wǎng)膜位置蝎宇,使人的眼睛能輕松看清幾乎貼在眼前的顯示屏。
4.?陀螺儀
????????顯示器里的景象祷安,如果要隨著人頭部的運(yùn)動而實(shí)時產(chǎn)生變化姥芥。則必須知道人頭部的朝向,比如汇鞭,當(dāng)帶著VR眼鏡的人凉唐,向上看時庸追,眼睛里的顯示器,需要實(shí)時的顯示虛擬的天空台囱,而這個“向上看”的動作淡溯,就需要 陀螺儀 來檢測。具體陀螺儀的原理就不介紹簿训,大家只要知道咱娶,它是能檢測到物體在空間中的姿態(tài)/朝向 即可。
根據(jù)VR眼鏡具體實(shí)現(xiàn)方式强品,我們一般把它們分成三大類:
1.?手機(jī)盒子?嵌入機(jī) 膘侮,Screenless Viewer,利用用戶的手機(jī)择懂,擔(dān)任了 處理器 + 顯示器 + 陀螺儀 的角色喻喳。
2.?VR頭戴顯示器?PCVR,Tethered HMD困曙,使用PC的CPU和顯卡來進(jìn)行運(yùn)算表伦。
3.?一體機(jī)?Standalone HMD, All in one HMD,使用移動芯片( 如 高通驍龍系列 )來進(jìn)行圖像和定位計(jì)算慷丽。
四蹦哼、VR與3D技術(shù):
? ? ? ? 3D電影是在觀眾戴上眼鏡之后,會出現(xiàn)畫面仿佛近在咫尺的感覺要糊,空間感距離感比起裸眼看更加明顯纲熏。更傾向于這是一種視覺的錯覺,利用了人眼“雙眼效應(yīng)”锄俄,因?yàn)楫吘共荒茉谄矫娴钠聊簧险嬲粋€立體的電影場景出來局劲。
? ??????3D技術(shù)再厲害,也只是一個平面上的東西奶赠,也只是利用平面呈現(xiàn)3D的東西鱼填。但是3D并不是完美地呈現(xiàn)3D世界,就像相片一樣毅戈,你永遠(yuǎn)只能呈現(xiàn)一個瞬間一個角度的東西苹丸,不能呈現(xiàn)每個角落。就像3D的網(wǎng)絡(luò)游戲苇经,仿佛你控制著人物滿世界亂走赘理,上天入地?zé)o所不能。但終究只是隔著一個平面的玻璃來觀察3維的空間扇单。
? ??????換言之就是:你站在一個角度商模,僅憑一塊有限的屏幕,僅憑不斷變化的畫面來認(rèn)識虛擬的世界。你看到的只是虛擬世界中的一個小角落施流,但是也可以認(rèn)為你看到了虛擬的世界凉倚。
????????就像人眼一樣,人眼看到的一定是一個平面的圖形嫂沉,因?yàn)橐暰W(wǎng)膜是平面的稽寒。但是人卻可以感覺得到自己處在一個真正的3維空間中,那是因?yàn)橐驗(yàn)槿藨{借其他的信息推斷出了自己在一個三維空間中趟章,其他的信息可以是觸摸杏糙、聲音、光等等蚓土。
? ? ? ? 而VR就是現(xiàn)實(shí)世界的模擬宏侍,不僅僅是模擬某一個角落。3D和VR其實(shí)是重合的關(guān)系:
? ??????打個比方蜀漆,這有一棟房子谅河。3D技術(shù)就是讓你看著這個房子的外型、結(jié)構(gòu)确丢、大小等绷耍,還可以將它畫成圖,拍成照片來欣賞鲜侥。這一切的前提是你得有房子的模型做出來(至少得做一個外殼出來)褂始。而虛擬現(xiàn)實(shí)則是讓你直接進(jìn)入房子里面(沉浸式),自由移動(自由性)描函,還能用房子里的各種物品(交互性)崎苗。這一切的東西的最主要前提肯定是和3D一樣要做個模型出來(場景),除此之外舀寓,還要做出房子里應(yīng)有的布置(場景中的元素)胆数,另外還要有物理法則比如物體會自由落體下落、兩個剛性物體不會重疊等(物理引擎)互墓,此外如果想在房子里拍一部電影或者表演一個話劇必尼,還得要有劇本和動作的設(shè)計(jì)(腳本和程序)。
????????同樣是一個立體的房子轰豆,3D只是讓人看到而已胰伍,而虛擬現(xiàn)實(shí)齿诞,則可以讓人真切地感受到自己身處其中酸休。
五、當(dāng)前 VR 行業(yè)的幾大挑戰(zhàn)
1. 清晰度
? ??????說到 清晰度祷杈,大家都會想到 視網(wǎng)膜屏(裸眼分辨不出像素顆粒)斑司,這是清晰度的終極目標(biāo)。對于手機(jī)來說,喬布斯把 視網(wǎng)膜屏定義為:300 PPI(Pixel Per Inch)宿刮,也就是 每英寸300個像素互站。而這個分辨率的屏幕,在VR眼鏡里僵缺,卻遠(yuǎn)遠(yuǎn)不夠用胡桃。因?yàn)閂R眼鏡,相當(dāng)于用一個放大鏡看屏幕磕潮,原來肉眼看不到的像素點(diǎn)翠胰,當(dāng)然就現(xiàn)了原形。
????????這里先引入一個更加跨平臺通用的概念:PPD( Pixel Per Degree )自脯,即之景,每視場角像素?cái)?shù)。目前膏潮,業(yè)內(nèi)比較流行的說法是 60 PPD 是視網(wǎng)膜屏锻狗。也就是說,當(dāng)你視野里焕参,每度里面有60個像素以上時轻纪,你就分辨不出像素顆粒了。
????????300 PPI 的視網(wǎng)膜屏手機(jī)叠纷,放在面前 40厘米處時桐磁,大約每一度視場角對應(yīng)的就是 60個像素。如果按照 60 PPD 的標(biāo)準(zhǔn)讲岁,一個 視場角(FOV)100度的VR眼鏡我擂,單眼就需要 100 x 60 = 6000 個像素。也就是單目 6k缓艳,雙目 12k(現(xiàn)在VR眼鏡一般標(biāo)稱都是 雙目 的分辨率)校摩。
2. 計(jì)算性能
? ? ? ? 視頻一般采用的使?分片解碼 技術(shù),簡單地說就是看哪解哪阶淘。以8k視頻為例衙吩,我們只需要解碼 2k左右,當(dāng)前的移動處理芯片完全沒問題溪窒±と可以說,分片解碼 是未來VR視頻播放必須要落實(shí)的技術(shù)澈蚌,否則摹芙,視網(wǎng)膜清晰度的視頻,對于計(jì)算能力和網(wǎng)絡(luò)傳輸來說都是災(zāi)難宛瞄。
? ??????3D渲染技術(shù)隨著分辨率的提升浮禾,渲染一個完整的場景,需要的計(jì)算力也是越來越大,尤其是場景還有非常復(fù)雜的材質(zhì)盈电、模型蝴簇、光影特效時。那么這個時候就需要另一個技術(shù)匆帚,來降低處理難度熬词,即:注視點(diǎn)渲染 技術(shù)。
????????注視點(diǎn)渲染 技術(shù)吸重,利用到了人眼的一個特性:雖然人眼的整體FOV很大荡澎,但是,同一時間內(nèi)晤锹,人只能分辨清很小視場角內(nèi)的景物摩幔。
根據(jù)我們的實(shí)驗(yàn),當(dāng)把視野中央直徑40度以外的圖像壓縮到 1/4 的分辨率時鞭铆,人眼根本不會感知到這個分辨率的下降或衡。也就是說,對于一個100度視場角的 VR眼鏡车遂,我們可以只對 40度范圍內(nèi)的景物進(jìn)行高清渲染封断,對于 40度以外的部分,只需要用 1/4 分辨率 來渲染舶担,這樣就可以大大降低渲染的計(jì)算力需求坡疼。而這個技術(shù)還需要結(jié)合 眼球追蹤 技術(shù)來使用,這個技術(shù)已有較成熟的方案衣陶。但是 特定區(qū)域渲染 這個技術(shù)目前還沒有推廣開柄瑰,需要各大廠商共同推進(jìn)。
3. 軟件內(nèi)容
? ? ? ? VR平臺的軟件游戲的數(shù)量相對于PC和手機(jī)端來說遠(yuǎn)遠(yuǎn)不夠剪况,而一個新的計(jì)算平臺的普及教沾,需要豐富的內(nèi)容生態(tài)。所以需要更多的開發(fā)制作译断。
? ? ? ? 而最開始的VR 行業(yè)的軟件標(biāo)準(zhǔn)并不統(tǒng)一授翻。尤其是 移動VR平臺,完全的碎片化孙咪,雖然都是安卓平臺堪唐,但是每家的SDK標(biāo)準(zhǔn)都不同。后來有了OpenXR 標(biāo)準(zhǔn)組織翎蹈,力圖把各個平臺的 接口標(biāo)準(zhǔn)統(tǒng)一淮菠,這樣開發(fā)者只要開發(fā)一次應(yīng)用,就能在不同平臺上分布運(yùn)行杨蛋。這對VR軟件行業(yè)是一大利好兜材。
4. 眩暈問題
? ??????對于 VR 的眩暈問題的誘因之一就是 暈動癥,即暈車病逞力、暈船病曙寡、暈機(jī)病和由于各種原因引起的搖擺、顛簸寇荧、旋轉(zhuǎn)举庶、加速運(yùn)動等所致疾病的統(tǒng)稱。它也不是人類的一個固有的生理反應(yīng)揩抡,不是說 只要 虛擬運(yùn)動與實(shí)際運(yùn)動不符就一定會暈户侥,而是與人的意識認(rèn)知緊密相關(guān)。
????????其實(shí)除了暈動癥峦嗤,還會有很多其他問題會造成用戶眩暈蕊唐,包括但不限于:屏幕刷新率、光學(xué)畸變烁设、顯示延遲替梨、定位準(zhǔn)確度 等。這些都是可解的装黑,需要VR眼鏡廠商悉心去調(diào)節(jié)就可以解決副瀑。
六、VR所需要的計(jì)算機(jī)技術(shù)
- 設(shè)備端 -
VR所涉及到的計(jì)算機(jī)軟件技術(shù)有以下三大塊:
1.顯示技術(shù)
? ??????目前的VR設(shè)備有三大類:外接式頭顯(包括PCVR 和 PSVR)恋谭、一體機(jī) 和 手機(jī)盒子糠睡。這三類VR眼鏡用到的操作系統(tǒng),都是在現(xiàn)有計(jì)算設(shè)備的系統(tǒng)(Windows疚颊、Android 的等)狈孔。所以,從系統(tǒng)層面材义,并沒有新的技術(shù)內(nèi)容除抛。但是到了顯示層面,它跟現(xiàn)有的計(jì)算設(shè)備比卻復(fù)雜了一個量級母截。
????????當(dāng)游戲引擎渲染出一個VR畫面后到忽,并不能像 PC 或者 手機(jī)那樣直接上屏,它還需要經(jīng)過反畸變清寇、合成喘漏、位置預(yù)測等過程,才能貼到屏幕上华烟。這就需要很多?計(jì)算機(jī)圖形學(xué)?和?操作系統(tǒng)?相關(guān)的知識翩迈。
????????另外,為了進(jìn)一步提升渲染效率盔夜,還需要引入注視點(diǎn)渲染技術(shù)负饲。而為了能夠解決 VAC (輻輳沖突)問題堤魁,未來還要引入 光場顯示 等技術(shù),這些也都需要?計(jì)算機(jī)圖形學(xué)?相關(guān)的知識返十。
2. 定位技術(shù)
? ? ? ? VR中圖像的生成妥泉,依賴于定位的準(zhǔn)確性。這就又涉及到了兩大塊技術(shù):頭部定位 和 手柄定位洞坑。從技術(shù)路線上盲链,定位技術(shù)可以分為下面三類:
<1> 外置激光定位 (Lighthouse)
????????使用外置的激光發(fā)射器掃描空間,通過計(jì)算 頭盔和手柄 接收到激光信號的時間差來推導(dǎo)出設(shè)備的空間坐標(biāo)迟杂。它的特點(diǎn)是:速度快刽沾,位置準(zhǔn),缺點(diǎn)是 成本高排拷。
<2>外置視覺定位
????????通過外部放置攝像頭侧漓,拍攝 頭盔/手柄 上的光點(diǎn),來推算出設(shè)備的位置监氢,Oculus Rift(紅外線) 和 PSVR (可見光)都是使用這種方式火架。想要準(zhǔn)確高效地檢測出光標(biāo)點(diǎn),就需要?圖像處理忙菠、計(jì)算機(jī)視覺的知識何鸡。
<3>內(nèi)置視覺定位( InsideOut 定位)
????????通過頭盔上的攝像頭拍攝畫面的變化,來估計(jì)頭盔運(yùn)動牛欢。微軟WMR骡男、Quest使用的是這種方式。它的優(yōu)勢是不需要額外架設(shè)設(shè)備傍睹。但是隔盛,定位精度上,比激光定位要差一些拾稳。為了能根據(jù)畫面來推斷相機(jī)的運(yùn)動吮炕,也是需要?計(jì)算機(jī)視覺?相關(guān)知識。InsideOut 頭部定位對應(yīng)的手部定位稍微復(fù)雜點(diǎn)访得,它又分為 電磁手柄定位龙亲、超聲手柄定位 和 視覺手柄定位 三種方式。
????????前兩種一般是硬件直接給出定位坐標(biāo)悍抑,最后一種仍然是基于?計(jì)算機(jī)視覺鳄炉,只不過攝像頭從外置攝像頭換成了頭盔上的攝像頭。
? ? ? ? 什么是計(jì)算機(jī)視覺搜骡?計(jì)算機(jī)視覺是使用計(jì)算機(jī)及相關(guān)設(shè)備對生物視覺的一種模擬拂盯。它的主要任務(wù)就是通過對采集的圖片或視頻進(jìn)行處理以獲得相應(yīng)場景的三維信息,就像人類和許多其他類生物每天所做的那樣记靡。
3.識別技術(shù)
? ??????在一些特定的場合谈竿,為了能夠更精準(zhǔn)地反映用戶的動作团驱,還需要對人體的各種狀態(tài)進(jìn)行識別。包括:手勢識別空凸、身體姿態(tài)識別嚎花、表情識別、眼動追蹤劫恒。手勢識別有兩個技術(shù)路線:一是需要佩戴手套贩幻,靠硬件來識別轿腺,二是基于?計(jì)算機(jī)視覺?來識別两嘴。前者優(yōu)勢是精準(zhǔn),后者的優(yōu)勢是使用簡便族壳。
????????身體姿態(tài)識別 跟手勢識別類似憔辫,也是有 佩戴硬件 和?視覺?兩套方案。但是現(xiàn)在常用的還是基于硬件仿荆。而基于視覺的姿態(tài)識別贰您,一般還是用在監(jiān)控場景中,在VR中比較少見拢操,其準(zhǔn)確度也比 硬件方案 差很多锦亦。
????????眼動追蹤 則主要是計(jì)算機(jī)視覺方案,現(xiàn)在也有眼部肌電信號來進(jìn)行眼動追蹤的方法令境,但是只存在于實(shí)驗(yàn)室里杠园。最后,表情識別 只能靠?計(jì)算機(jī)視覺?來做舔庶。以上提到的所有的識別方面的內(nèi)容抛蚁,都還處于比較前沿的狀態(tài),在實(shí)際應(yīng)用中主要還是B端場景惕橙,C端使用的相對較少瞧甩。Oculus Quest 上近期剛推出了 手勢識別 的接口,預(yù)計(jì)后面會有越來越多的C端應(yīng)用嘗試這種新的交互方式弥鹦。
- 應(yīng)用端 -
1.內(nèi)容開發(fā)
????????最常見的VR游戲應(yīng)用開發(fā)肚逸,它在技術(shù)層面跟普通的3D游戲沒有什么區(qū)別,大都是使用 U3D彬坏,Ureal 等引擎來開發(fā)吼虎。
2. 視頻制作
????????VR視頻的制作,目前都有比較成熟設(shè)備苍鲜。用戶在使用時思灰,都免去了早期還需要拼接處理的步驟,直接輸出 360度全景視頻混滔。制作是簡單了洒疚,但是視頻領(lǐng)域仍然有兩個新技術(shù)需要探索:視頻分片編解碼 和 容積攝影歹颓。
視頻分片編解碼?可以解決兩個難題:帶寬不夠 以及 芯片解碼限制。未來為了能夠傳輸和播放12K的視頻油湖,需要我們能在編解碼環(huán)節(jié)進(jìn)行優(yōu)化巍扛。
容積攝影?技術(shù),主要是通過多攝像頭從多個角度拍攝同一個場景乏德,最終 “拼” 出一個人可以 “走進(jìn)去” 的3D的視頻場景撤奸,要實(shí)現(xiàn)這一點(diǎn),也是需要一些?圖像處理?的知識喊括。
3. 網(wǎng)絡(luò)技術(shù)
????????云VR會是VR領(lǐng)域的一個大趨勢胧瓜,它需要在云端服務(wù)器對應(yīng)用的顯示進(jìn)行編碼,然后傳到本地郑什。下圖是一種云VR 服務(wù)的架構(gòu)府喳。它主要考量的還是 云端內(nèi)容編碼 及 高效傳輸。
????????另外蘑拯,未來將大行其道的虛擬社交钝满,對網(wǎng)絡(luò)傳輸要求也會比較高,形象同步需要傳輸?shù)臄?shù)據(jù)量跟傳統(tǒng)網(wǎng)游比大了一個量級申窘。目前最火的VR社交游戲:VRChat弯蚜,同時在線人數(shù)超過了2萬。單個房間同時人數(shù)上限只有30人左右剃法。想實(shí)現(xiàn) 千人同服碎捺,還需要在數(shù)據(jù)同步方面做很多研究。
????????總的來說玄窝,VR所需要的有?計(jì)算機(jī)圖形學(xué)牵寺、計(jì)算機(jī)視覺、操作系統(tǒng)相關(guān)的知識恩脂。而如果想在VR應(yīng)用端做一些工作帽氓,則跟現(xiàn)在的3D游戲、影音娛樂 所需的技術(shù)知識類似俩块。另外 黎休,因?yàn)閂R眼鏡公司也要做上層的系統(tǒng)應(yīng)用,所以也會涉及到3D內(nèi)容的開發(fā)玉凯。
七.VR開發(fā)
? ??????VR開發(fā)是3D編程引擎的語言势腮,沒有3D引擎的支持就無法開發(fā)VR。大多數(shù)3D引擎使用的都是c或C++開發(fā)的漫仆,需要使用Android NDK基于C++進(jìn)行開發(fā)捎拯。接下來是C#,Unity使用盲厌,C#能作為腳本語言署照。還有Javascript祸泪,它也是 Unity 的一種腳本語言。
VR的設(shè)計(jì)流程
????????按優(yōu)先級排序建芙,分為四個部分:1没隘、工作流程,各角色在團(tuán)隊(duì)中需要關(guān)注的內(nèi)容和分工禁荸。2右蒲、設(shè)計(jì)工具的使用。3赶熟、用戶研究方法瑰妄,用戶需求管理。4钧大、設(shè)計(jì)原則(設(shè)計(jì)規(guī)范)歸納和建立翰撑。如下圖所示:
明確職責(zé)分工
????????1罩旋、建立工作流程:針對VR設(shè)計(jì)各個主要環(huán)節(jié)的流程及配合方式進(jìn)行了梳理啊央,繪制流程圖。
????????2涨醋、梳理工作內(nèi)容:主要包括流程各部分人員職責(zé)瓜饥、主要產(chǎn)出物、配合方式浴骂。
設(shè)計(jì)工具的使用
????????研究并確定需要使用哪些工具進(jìn)行設(shè)計(jì)乓土,并進(jìn)行試用。
????????傳統(tǒng)的2D類設(shè)計(jì)軟件(如Axure)已不能快速溯警、方便的展現(xiàn)3D空間類產(chǎn)品的設(shè)計(jì)思路趣苏,在2D的限制下做3D的東西,流程繁瑣梯轻、沒有辦法迭代修改食磕。因此各個設(shè)計(jì)環(huán)節(jié)掌握3D類主要工具基礎(chǔ)的使用非常必要。
????????如何建立空間立體思維喳挑?最好的方式莫過于使用3D設(shè)計(jì)軟件進(jìn)行設(shè)計(jì)彬伦,在設(shè)計(jì)過程中傳統(tǒng)2D設(shè)計(jì)師能夠很好地將思路拓寬到空間中進(jìn)行表現(xiàn)。另外針對游戲引擎(Unity)的基本學(xué)習(xí)伊诵、使用单绑,也可以更好地幫助大家學(xué)習(xí)理解3D游戲、VR產(chǎn)品的設(shè)計(jì)和實(shí)現(xiàn)原理曹宴,避免設(shè)計(jì)師的設(shè)計(jì)內(nèi)容無法實(shí)現(xiàn)搂橙。
建立用研&需求池
????????用研需求池建立:針對VR方向的用戶研究和VR用戶需求建立框架和內(nèi)容規(guī)劃,梳理ijb流程和需求池模板笛坦。
設(shè)計(jì)原則区转、規(guī)范
????????設(shè)計(jì)規(guī)范框架的制定:建立VR設(shè)計(jì)規(guī)范的框架唯袄,列舉VR設(shè)計(jì)規(guī)范所涉及的內(nèi)容和方向。
具體分工:
產(chǎn)品設(shè)計(jì)師
1蜗帜、功能設(shè)計(jì):產(chǎn)品應(yīng)實(shí)現(xiàn)的功能有哪些恋拷,功能背后的業(yè)務(wù)邏輯是什么。
2厅缺、場景規(guī)劃:劃分出不同的場景進(jìn)行羅列蔬顾,輸出場景列表。
3湘捎、VR場景構(gòu)建:對每個場景需要實(shí)現(xiàn)的功能和業(yè)務(wù)邏輯進(jìn)行具體描述诀豁,繪制出2D場景平面圖,圖中應(yīng)包含當(dāng)前場景中的所有對象窥妇。
交互設(shè)計(jì)師
1舷胜、對3D場景進(jìn)行設(shè)計(jì)優(yōu)化、搭建3D場景原型(C4D完成)活翩。
2烹骨、細(xì)化3D場景。
3材泄、設(shè)計(jì)交互設(shè)計(jì)流程沮焕,完成交互設(shè)計(jì)原型文檔(直接用C4D做好截圖到Axure 中添加交互說明)。
分別把各個場景串起來拉宗,完成交互原型峦树。
界面設(shè)計(jì)師&美術(shù)設(shè)定
2D美術(shù)概念稿:繪制美術(shù)場景、角色等概念稿
FUI:主要針對FUI平面資源進(jìn)行設(shè)計(jì)及輸出旦事。
3D資源&開發(fā)
根據(jù)設(shè)計(jì)稿及美術(shù)設(shè)定輸出3D資源魁巩,輸出到后續(xù)開發(fā)流程。
最后由開發(fā)實(shí)現(xiàn)產(chǎn)品完整功能姐浮。