Unity Camera獲取深度數(shù)據(jù)的幾種方式

1. pipeline中的深度數(shù)據(jù)

深度是渲染管線(xiàn)當(dāng)中的重要概念,它控制著三維世界中物體渲染的遮擋關(guān)系蝇棉。我們以傳統(tǒng)的foward render為例,三角形提交draw call以后蜡坊,頂點(diǎn)進(jìn)入vertex shader峦剔,經(jīng)過(guò)model-view-projection matrix變換到齊次裁剪空間坐標(biāo)系(又叫規(guī)則觀察體(Canonical View Volume)中,通過(guò)透視除法(硬件自動(dòng)完成)進(jìn)入pixel shader(當(dāng)然惠勒,現(xiàn)代的gpu都會(huì)在進(jìn)入pixel shader之前提供Early-Z kill赚抡,后文詳述)

z_ealy_z_流程.png

通過(guò)pixel shader上色以后,就使用到了本文的主角深度纠屋,深度測(cè)試階段(Z-test)所有頂點(diǎn)都處在NDC坐標(biāo)系(也就是整個(gè)世界規(guī)范到xy = {-1涂臣, 1}, z = {0售担, 1}的長(zhǎng)方體中)赁遗,如下圖。

ndc_cvv_介紹.jpg

這么折騰一通族铆,對(duì)于Z-test的意義就是所有的頂點(diǎn)position.z深度值都規(guī)范到{0岩四,1}之間,這也就給比較遮擋關(guān)系提供了便利骑素,距離越近的點(diǎn)才能渲染到render texture中炫乓,距離太遠(yuǎn)的話(huà)當(dāng)前像素就可以丟棄了。距離相機(jī)越近的點(diǎn)z值越小献丑,假如我們使用如下的pixel shader來(lái)表示深度圖

    fixed4 frag (v2f i) : SV_Target
    {
        float depth = tex2D(_CameraDepthTexture, i.uv).r;
        float4 col = float4(depth, depth, depth, 1);
        return col
    }

由于rgb一致末捣,所以深度圖都是以灰度圖呈現(xiàn)。


2. UNITY 獲取深度圖 -- camera的內(nèi)置depth texture

Camera可以生成depth texture, depth+normals texture创橄,這些內(nèi)置數(shù)據(jù)可以用于延遲渲染以及shadow map箩做,本文主要討論深度圖,其他概念暫且摁下不表妥畏。

獲取Camera內(nèi)置深度圖的介紹的比較多邦邦,demo可以參考這個(gè)例子安吁,github需要翻墻,本文也使用這個(gè)場(chǎng)景做其他獲取方式的介紹燃辖。

內(nèi)置的深度圖名字為_(kāi)CameraDepthTexture鬼店,我們?cè)谑褂盟臅r(shí)候需要遵循如下流程

抓取內(nèi)置depth texture的獲取基本流程如下~

  1. 獲取深度圖需要指定Camera, 設(shè)置抓取深度圖的Camera.depthTextureMode = DepthTextureMode.Depth;
  2. 聲明一個(gè)rendertexture rt用于保存深度圖黔龟,rt = RenderTexture.GetTemporary(width, height, 0);
  3. 在Camera的Gameobj身上掛載一個(gè)script妇智,重載 OnRenderImage方法
  4. OnRenderImage中 Graphics.Blit(source, dest, DepthRender);
  5. 保證場(chǎng)景中希望寫(xiě)入深度圖的gameobj,它們上色的shader必須有 FallBack "Diffuse"代碼塊氏身,否則深度圖不會(huì)將他的深度數(shù)據(jù)寫(xiě)入

流程1說(shuō)明需要向camera中保存depth tetxure到_CameraDepthTexture中巍棱。
流程2是保存深度圖的容器
當(dāng)場(chǎng)景繪制完成以后,我們使用blit方法將數(shù)據(jù)拷貝到dest中去蛋欣,請(qǐng)注意:结恪!_CameraDepthTexture與blit(src陷虎,dest)中的src到踏,dest位置順序沒(méi)有關(guān)系,_CameraDepthTexture中一直存在深度數(shù)據(jù)泻红,_MainTex的數(shù)據(jù)則只來(lái)自src
流程5是一個(gè)潛規(guī)則夭禽,原文是這樣的Depth texture is rendered using the same shader passes as used for shadow caster rendering (ShadowCaster pass type).

簡(jiǎn)單來(lái)說(shuō)內(nèi)置深度數(shù)據(jù)來(lái)自shadow map計(jì)算時(shí)使用的一個(gè)特殊pass谊路,我們必須設(shè)置這個(gè)pass才能讓內(nèi)置depth buffer完成數(shù)據(jù)填充讹躯,FallBack "Diffuse"在這個(gè)時(shí)候就起到了作用,貌似自己寫(xiě)的其他pass時(shí)不會(huì)在獲取內(nèi)置深度時(shí)調(diào)用缠劝。大坑一個(gè)潮梯,所以自己寫(xiě)的shader結(jié)構(gòu)應(yīng)該保留FallBack "Diffuse"

Shader "Custom/yourshader" {
    Properties {
        _MainTex ("Base (RGB)", 2D) = "white" {}
    }
    SubShader 
    {       
        Tags { "RenderType"="Opaque" }
        
        Pass
        {           
        }
    } 
    FallBack "Diffuse"
}

然后我們來(lái)看流程4的DepthRender,它的作用就是從_CameraDepthTexture獲取depth輸出給blit的dest惨恭,完整代碼如下

Shader "Unlit/depth_render"
{
    Properties
    {
        _MainTex ("Texture", 2D) = "black" {}
    }
    SubShader
    {
        // No culling or depth
        Cull Off ZWrite Off ZTest Always

        Pass
        {
            CGPROGRAM
            #pragma vertex vert
            #pragma fragment frag
            
            sampler2D _CameraDepthTexture;
            sampler2D _MainTex;

            struct appdata
            {
                float4 vertex : POSITION;
                float2 uv : TEXCOORD0;
            };

            struct v2f
            {
                float2 uv : TEXCOORD0;
                float4 vertex : SV_POSITION;
            };

            v2f vert (appdata v)
            {
                v2f o;
                o.vertex = UnityObjectToClipPos(v.vertex);
                o.uv = v.uv;
                return o;
            }
            
            fixed4 frag (v2f i) : SV_Target
            {
                float4 col = float4(1, 1, 1, 1);

                // 內(nèi)置 深度獲取
                float depth = tex2D(_CameraDepthTexture, i.uv).r;
                col = float4(depth, depth, depth, 1 );
                return col;
            }
            ENDCG
        }
    }
}

其中獲取深度還可以使用unity的內(nèi)置宏SAMPLE_DEPTH_TEXTURE秉馏,一般情況下就是取texture的r分量即可
#define SAMPLE_DEPTH_TEXTURE(sampler, uv) (tex2D(sampler, uv).r)

tips -- 由于是image effect,我們關(guān)閉深度測(cè)試和裁剪**Cull Off ZWrite Off ZTest Always**脱羡, 關(guān)于內(nèi)置宏萝究,請(qǐng)自行下載unity-build-in-shader查看

深度圖2.png

左邊是scene view 右邊是深度圖,我們可以得出這樣的結(jié)論

物體距離攝像機(jī)越近锉罐,內(nèi)置深度圖的深度值就越大(越接近1 - 白色)


3. UNITY 獲取深度圖 -- 創(chuàng)建一個(gè)專(zhuān)門(mén)的depth camera

上文使用的是unity的內(nèi)置方法獲取深度圖帆竹,那么我們通過(guò)自己的shader將vertex的z值寫(xiě)入rt,當(dāng)然就可以讓一個(gè)camera專(zhuān)門(mén)渲染深度了EЧ妗栽连!~~~

渲染深度數(shù)據(jù)的shader如下

Shader "Unlit/deptVisual"
{
    Properties
    {
        _MainTex ("Texture", 2D) = "white" {}
    }
    SubShader
    {
        Tags { "RenderType"="Opaque" }
        LOD 100

        Pass
        {
            CGPROGRAM
            #pragma vertex vert
            #pragma fragment frag           
            #include "UnityCG.cginc"

            struct appdata
            {
                float4 vertex : POSITION;
                float2 uv : TEXCOORD0;
            };

            struct v2f
            {
                float2 uv : TEXCOORD0;
                float4 vertex : SV_POSITION;
            };

            sampler2D _MainTex;
            float4 _MainTex_ST;
            
            v2f vert (appdata v)
            {
                v2f o;
                o.vertex = UnityObjectToClipPos(v.vertex);
                o.uv = TRANSFORM_TEX(v.uv, _MainTex);
                return o;
            }
            
            fixed4 frag (v2f i) : SV_Target
            {
                return fixed4(i.vertex.z, i.vertex.z, i.vertex.z, 1);
            }
            ENDCG
        }
    }
}

我們看一下渲染結(jié)果


深度圖3.png

但是這個(gè)方法帶來(lái)一個(gè)問(wèn)題,難道我們?yōu)榱双@取深度數(shù)據(jù),難道還要讓所有的game obj 替換成上述的material嗎秒紧?答案當(dāng)然是否定的绢陌,這時(shí)候就需要介紹一個(gè)camera的大殺器了

替換渲染Camera.renderwithshader()

講一個(gè)例子,假如場(chǎng)景中存在兩個(gè)camera熔恢,renderCamera和depthCamera脐湾,場(chǎng)景中其他的gameobj都是默認(rèn)的材質(zhì)。那么我們?yōu)榱瞬挥绊憆enderCamera的正常渲染绩聘,depthCamera如何不修改game obj的材質(zhì)但是又能使用上述的deptVisual-shader進(jìn)行深度圖提取呢沥割?方式就是RenderWithShader(Shader replaceShader, string replacementTag)
它需要兩個(gè)參數(shù),頭一個(gè)是替換執(zhí)行的shader凿菩,很好理解,第二個(gè)是決定如何替換的規(guī)則帜讲,它一般都是使用"RenderType"衅谷。我們從unity doc可以知道每一個(gè)subshader都可以設(shè)置RenderType

Tags { "RenderType"="Opaque" }

這里rendertype的具體用法就是:replaceShader中所有RenderType的值 = originShader中RenderType的值的,都會(huì)進(jìn)行替換渲染似将,也就是本來(lái)用originShader subshader 渲染的获黔,因?yàn)閛riginShader subshader 的RenderType與replaceShader subshader的一致,渲染都改為使用replaceShader subshader在验。
假如第二個(gè)參數(shù) = "",則此攝像機(jī)本次渲染的所有物體都會(huì)使用replaceShader 進(jìn)行渲染玷氏。

replaceShader 中Tags { "RenderType"="Opaque" },就是所有的不透明物體都是用replaceShader渲染一次腋舌。我們使用renderwithshader把所有不透明的物體進(jìn)行深度提日荡ァ(半透明物體的深度zwrite off)。

unity的官網(wǎng)里已經(jīng)有了相關(guān)代碼块饺,c# 代碼如下

 using UnityEngine;
 using System.Collections;
 
 [RequireComponent(typeof(Camera))]
 public class DepthRenderer : MonoBehaviour {
 
     GameObject depthCamera=null;
     Shader replacementShader=null;
 
     // Use this for initialization
     void Start () 
     {
         depthCamera=new GameObject();
         depthCamera.AddComponent<Camera>();
         depthCamera.camera.enabled=false;
         depthCamera.hideFlags=HideFlags.HideAndDontSave;
         
         depthCamera.camera.CopyFrom(camera);
         depthCamera.camera.cullingMask=1<<0; // default layer for now
         depthCamera.camera.clearFlags=CameraClearFlags.Depth;
 
         replacementShader=Shader.Find("RenderDepth");
         if (replacementShader==null)
         {
             Debug.LogError("could not find 'RenderDepth' shader");
         }
     }
     
     // Update is called once per frame
     void OnPreRender () 
     {
         if (replacementShader!=null)
         {
             Camera camCopy=depthCamera.camera;
 
             // copy position and location;
             camCopy.transform.position=camera.transform.position;
             camCopy.transform.rotation=camera.transform.rotation;
             
             camCopy.RenderWithShader(replacementShader, "RenderType");
         }
     }
 }

depthCamera 設(shè)置為false是為了手動(dòng)RenderWithShader赞辩, 所以渲染深度圖的時(shí)機(jī)就可以自己控制了啊J诩琛1嫠浴!淮腾!

tips -- 因?yàn)樯疃葓D是灰度圖糟需,假如渲染出來(lái)的rt全是default color,那么有可能是camera的遠(yuǎn)近裁剪面太大谷朝,導(dǎo)致顏色看不清楚洲押,可以自行修改裁剪面的值進(jìn)行測(cè)試


4. UNITY 的Graphics API介紹 & Depth Stencil Test 注意事項(xiàng)

使用unity進(jìn)行image post effect時(shí),我們會(huì)遇到大量的Graphics Api徘禁,記錄幾個(gè)常用的

Graphics .Blit(Texture source, RenderTexture dest, Material mat)

Blit其實(shí)姐可以理解為遍歷source所有像素诅诱,使用mat的shader進(jìn)行處理后,拷貝到dest中去送朱。它的實(shí)現(xiàn)方法我猜就是正交投影下繪制一個(gè)覆蓋整個(gè)相機(jī)的長(zhǎng)方體娘荡,然后通過(guò)已有數(shù)據(jù)進(jìn)行處理干旁。
可以肯定的是
Blit sets dest as the render target, sets source _MainTex property on the material, and draws a full-screen quad.
_MainTex 使用的數(shù)據(jù)來(lái)自source,寫(xiě)入的位置肯定是dest炮沐,當(dāng)dest = null的時(shí)候争群,寫(xiě)入幀緩存
當(dāng)mat存在模板測(cè)試代碼的時(shí)候大年,參考的模板數(shù)據(jù)來(lái)自dest换薄,畢竟每個(gè)rendertexture都可能同時(shí)存在colorbuffer & depthbuffer

Graphics.Blit(Texture source, Material mat)

這個(gè)函數(shù)還有一個(gè)重要的重載的形式,如上
它的寫(xiě)入目標(biāo)是Graphics.activeColorBuffer翔试。depth & stencil buffer使用的是Graphics.activeDepthBuffer轻要。
因此,我們使用這個(gè)方法的時(shí)候一定要設(shè)置好渲染目標(biāo)

Graphics.SetRenderTarget(rt1.colorBuffer, rt2.depthBuffer);

這個(gè)api控制接下來(lái)的blit渲染中color 以及 depth & stencil buffer使用不同rt的數(shù)據(jù)垦缅,寫(xiě)入color的目標(biāo)是rt1冲泥,測(cè)試使用的depth buffer的數(shù)據(jù)來(lái)源是rt2(當(dāng)然zwrite 打開(kāi)我認(rèn)為rt2深度數(shù)據(jù)也會(huì)修改,待測(cè)
這個(gè)api感覺(jué)android不能用壁涎,也就是不能分開(kāi)設(shè)置rendertarget

講一個(gè)關(guān)于模板測(cè)試的例子
// source 中模板已經(jīng)有數(shù)據(jù)了凡恍,現(xiàn)在希望對(duì)模板中特殊值的像素進(jìn)行顏色xxx的后處理,那么就是
OnRenderImage(RenderTexture source, RenderTexture destination)
Graphics.Blit(source, TempBuffer);
Graphics.Blit(TempBuffer, source怔球,PostRender); // 假設(shè)postrender會(huì)進(jìn)行模板測(cè)試
原因就是blit中_MainTex使用的是TempBuffer嚼酝,然而深度測(cè)試 & 模板測(cè)試數(shù)據(jù)使用的是source,先把TempBuffer的顏色拷貝過(guò)來(lái)
一般的blit后處理深度測(cè)試都關(guān)了竟坛,我猜測(cè)depth 打開(kāi)的話(huà)使用的也是dest的深度buffer闽巩,沒(méi)有印證過(guò)


吭哧吭呲寫(xiě)了這么多,累死了...........demo 的空我傳到GitHub上流码。如有紕漏之處又官,請(qǐng)多多指教

曾慮多情損梵行,入山又恐別傾城漫试。
世間安得雙全法六敬,不負(fù)如來(lái)不負(fù)卿。

2017/11/10 北京 -- shared_ptr
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末驾荣,一起剝皮案震驚了整個(gè)濱河市外构,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌播掷,老刑警劉巖审编,帶你破解...
    沈念sama閱讀 207,113評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異歧匈,居然都是意外死亡垒酬,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,644評(píng)論 2 381
  • 文/潘曉璐 我一進(jìn)店門(mén),熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)勘究,“玉大人矮湘,你說(shuō)我怎么就攤上這事】诟猓” “怎么了缅阳?”我有些...
    開(kāi)封第一講書(shū)人閱讀 153,340評(píng)論 0 344
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)景描。 經(jīng)常有香客問(wèn)我十办,道長(zhǎng),這世上最難降的妖魔是什么超棺? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 55,449評(píng)論 1 279
  • 正文 為了忘掉前任向族,我火速辦了婚禮,結(jié)果婚禮上说搅,老公的妹妹穿的比我還像新娘炸枣。我一直安慰自己,他們只是感情好弄唧,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,445評(píng)論 5 374
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著霍衫,像睡著了一般候引。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上敦跌,一...
    開(kāi)封第一講書(shū)人閱讀 49,166評(píng)論 1 284
  • 那天澄干,我揣著相機(jī)與錄音,去河邊找鬼柠傍。 笑死麸俘,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的惧笛。 我是一名探鬼主播从媚,決...
    沈念sama閱讀 38,442評(píng)論 3 401
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼患整!你這毒婦竟也來(lái)了拜效?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書(shū)人閱讀 37,105評(píng)論 0 261
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤各谚,失蹤者是張志新(化名)和其女友劉穎紧憾,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體昌渤,經(jīng)...
    沈念sama閱讀 43,601評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡赴穗,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,066評(píng)論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片般眉。...
    茶點(diǎn)故事閱讀 38,161評(píng)論 1 334
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡了赵,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出煤篙,到底是詐尸還是另有隱情斟览,我是刑警寧澤,帶...
    沈念sama閱讀 33,792評(píng)論 4 323
  • 正文 年R本政府宣布辑奈,位于F島的核電站苛茂,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏鸠窗。R本人自食惡果不足惜妓羊,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,351評(píng)論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望稍计。 院中可真熱鬧躁绸,春花似錦、人聲如沸臣嚣。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,352評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)硅则。三九已至淹父,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間怎虫,已是汗流浹背暑认。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 31,584評(píng)論 1 261
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留大审,地道東北人蘸际。 一個(gè)月前我還...
    沈念sama閱讀 45,618評(píng)論 2 355
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像徒扶,于是被迫代替她去往敵國(guó)和親粮彤。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,916評(píng)論 2 344

推薦閱讀更多精彩內(nèi)容