這個問題很奇怪,在測試只是用PROTOCOL_RDP進行加密通信的過程中籍救,程序莫名其妙的崩潰了习绢。
崩潰不可怕,只要可以重現(xiàn)就知道崩潰點在哪里蝙昙,還是很好解決的闪萄。
最后定位到的原因是,在進行RC4的密鑰交換時奇颠,無法Decode Server的Certificate败去,從而造成沒法把ClientRandom用Server的Public Key加密之后發(fā)給Server。最后整個RDP的流程就在這里停止了烈拒。
至于為什么崩潰圆裕,是直到這個問題解決的時候才明白的,反正就是在讀取Certificate的時候用到的一塊malloc出來的內(nèi)存荆几,在最后程序的退出free的時候吓妆,莫名其妙的崩潰了。
解決方法很笨拙吨铸,就是把MSTSC和FreeRDP的連接的包都抓下來一點點的對比行拢。
總結(jié)一下吧,為了和標題對上我們就按標題順序來描述這個問題:
- 在原來的網(wǎng)絡(luò)層(當然不是我寫的了)Recv的時候使用了固定大小的內(nèi)存诞吱。原先想當然的用了4096這個大小舟奠。在XP上測試的時候一點問題沒有,因為XP的證書不是X509格式的房维,所以很小沼瘫,才200 Bytes左右。而在2008上測試時就有問題了咙俩,內(nèi)存不夠用了耿戚。一般發(fā)過來的證書都要將近5000 bytes
- 那么網(wǎng)絡(luò)層Recv的數(shù)據(jù)超過了固定內(nèi)存的大小就導(dǎo)致有一部分的數(shù)據(jù)寫到了這個數(shù)組之外,這些數(shù)據(jù)隨時可能被其它的代碼給覆蓋掉。最后將數(shù)據(jù)送到gcc模塊進行解析的時候溅话,大概率這部分被覆蓋的數(shù)據(jù)會導(dǎo)致解析錯誤晓锻。
- 至于為什么崩潰,因為那部分數(shù)據(jù)不屬于這個動態(tài)分配的數(shù)據(jù)飞几,在free的時候必然引起SegmentFault
- 這是一個人為的砚哆、為了方便的、不顧擴展性的屑墨、自以為是的坑躁锁。。卵史。战转。。