1 resnet簡介 ??關于resnet，網(wǎng)上有大量的文章講解其原理和思路，簡單來說，resnet巧妙地利用了shortcut連接，解決了深度網(wǎng)絡中模型退化的問題砂碉。 2 論...
發(fā)簡信
IP屬地：上海
-
resnet18 50網(wǎng)絡結構以及pytorch實現(xiàn)代碼 -
兇手是C的話, A說"我離開醫(yī)生家的時候，他還活著。"就不是謊話了.
所以兇手應該是A誰殺害了醫(yī)生?
在我心中话浇，醫(yī)生是神圣的職業(yè)，一個是迎接新的生命闹究，救死扶傷幔崖，所以才有天使之說。一名醫(yī)生在家里被人殺害渣淤，抓到了4名嫌疑犯赏寇。警方根據(jù)目擊者的證詞得知，在醫(yī)生死亡那天价认，只有這4個病人...
-
2個性質(zhì)和1個結論
做個記錄嗅定， 1,Isx,y -Ix,y=I(s,y)|x 討論： 1) x~粗粒度時，求證分段I(s,y)|x~最大 => I(s,y)|x最大用踩，（反之不一定成立渠退。） 2) ...
-
IBN能促進條件獨立嗎
已知分布P(x,y1)*P(x,y2)，混合為P(x,z1,z2)后脐彩，IBN能還原嗎碎乃？ ibn保證了y的合并，聚塊貌似沒用 ibn對P(x,y1)*P(x,y2)*P(y3)...
-
邊緣獨立于條件獨立互無關系
Marginal independence does NOT imply conditional independence. Conditional independence...
-
小波分析的物理意義丁屎，及基于神經(jīng)網(wǎng)絡的自適應基選擇
給定時間序列{xt}荠锭，我們對其做時頻分析： 其中f表示尺度參數(shù)（一般是頻率），t是時間晨川。 尺度因子f是序列內(nèi)在的分析指標证九，因為對于時間序列x(t)，我們...
-
【原創(chuàng)】復數(shù)神經(jīng)網(wǎng)絡的反向傳播算法共虑，及pytorch實現(xiàn)方法復函數(shù)的可導性 復變函數(shù)按照是否可導愧怜，分為全純函數(shù)holomothic和nonholomophic，判斷條件為Cauchy-Riemann方程妈拌。 對于不可導的nonholom...
-
【轉(zhuǎn)】隨機過程的自相關函數(shù)與功率譜轉(zhuǎn)自http://www.360doc.com/content/16/0905/20/26322521_588652168.shtml 說說自相關函數(shù)拥坛，功率譜與白噪聲 所以蓬蝶，...
-
思想是唯一能照亮歷史和未來方向的光丸氛，人要有光。
-
AI的輸出
當一個AI系統(tǒng)能產(chǎn)生有物理意義的輸出（分類著摔，文字缓窜，音視，動作）時谍咆，該系統(tǒng)性能才是可衡量的禾锤。 若系統(tǒng)無物理輸出，而只有隱變量的輸出摹察，由于隱變量沒有明確的物理含義恩掷，所以我們無從判...
-
s0|s1應改成x0|x1
時序數(shù)據(jù)預測模型
給定無窮時序數(shù)據(jù)x...0,1...， 已知過去x...,0供嚎，任一總結函數(shù)s0=f(x...,0)黄娘，可以得到狀態(tài)表象s...0,1,...。 提出問題：求最優(yōu)總結函數(shù)f0查坪，使...
-
時序數(shù)據(jù)預測模型
給定無窮時序數(shù)據(jù)x...0,1...寸宏， 已知過去x...,0，任一總結函數(shù)s0=f(x...,0)偿曙，可以得到狀態(tài)表象s...0,1,...。 提出問題：求最優(yōu)總結函數(shù)f0羔巢，使...
-
神經(jīng)網(wǎng)絡的計算圖如何發(fā)現(xiàn)望忆？
神經(jīng)網(wǎng)絡可以看作是一個大的變分優(yōu)化器： 給定 y=f(x1, x2..., w)，求w使L(y, x..)最小 x是輸入竿秆，y輸出启摄，w是網(wǎng)絡參數(shù)，L是損失函數(shù)幽钢。 而任一函數(shù)y...
-
5部電影問題
1匪燕，同時觀看5部電影蕾羊，狀態(tài)S與規(guī)律O互不相關。 2帽驯，5部電影交替播放龟再，每次5分鐘 相當于5個子系統(tǒng)的預測，在why機制研究其規(guī)律時尼变，會發(fā)現(xiàn)需要獨立處理 這里的問題是規(guī)律形成過...
-
包容度和怪異度
正態(tài)分布p對正態(tài)分布q的相似度C(p,q)定義為： C(p,q) = Exp[ (1+ln2pi- vq^2)/( (vq^2 +(mp-mq)^2 )/vp^2 +ln2p...
-
why機制=信息收集機制
當數(shù)據(jù)以序列輸入時，長期信息記憶和收集能力就是必須的。 當d(y,y~)較大時哀澈，人就會感到奇怪牌借，尋因的過程就是why也就是收集信息。 長期記憶存儲方式k->v割按，也是以方便檢索...
-
pyTorch上的TimeDistributed
Keras有個TimeDistributed包裝器走哺，pytorch上用nn.Linear就能實現(xiàn)。老是忘在這里記錄下： 給定輸入in[batch, steps, in_dim...
-
一種新的rnn：NRU 非飽和循環(huán)網(wǎng)絡
RNN目標是解決序列數(shù)據(jù)的學習問題哲虾，方法是每一刻給所有歷史一個總結：Si = f(xi, Si_1);這就是一種狀態(tài)機丙躏。 對RNN唯一的約束就是長程相關性：當前Sn狀態(tài)允許對...
