張量 也叫Tensor這里只寫出輸出格式眾所周知谍咆，張量里面保存的3個屬性 名字 維度 類型類型和名字好說牲蜀，一個描述的是處理的數(shù)據(jù)類型挎春，一個描述的是這個張量來源的操作以及來自哪...
發(fā)簡信
IP屬地：云南
-
TensorFlow 實戰(zhàn)Google深度學(xué)習(xí)框架第2版-第三章入門
-
TensorFlow 實戰(zhàn)Google深度學(xué)習(xí)框架第2版-第四章深度學(xué)習(xí)tf.clip_by_value函數(shù)可以限制log運算時不會出現(xiàn)log0這類的數(shù)出現(xiàn) 矩陣乘法tf.matmul，直接使用*是元素間相乘 根據(jù)交叉熵的公式柱搜，應(yīng)該將每行中的 m...
-
改善深層神經(jīng)網(wǎng)絡(luò)1.2方差和偏差
深度學(xué)習(xí)中經(jīng)常不提及方差和偏差的均衡一般通過對驗證集和測試集的誤差多少來判斷方差和偏差例如，如果訓(xùn)練集是1%二測試集是11%很明顯這是過擬合了，屬于高方差锨并。如果訓(xùn)練15% 測...
-
秋招總結(jié)-算法方向
轉(zhuǎn)眼間2018年已經(jīng)來到了11月包警，回頭看看3月份開始春招找實習(xí)，到現(xiàn)在拿到了自己還滿意的offer真的是收獲頗多底靠，特此總結(jié)一下害晦，以紀(jì)念不怎么優(yōu)秀的自己。 春招 春招一開始由于...
-
隊列：隊列在線程池等有限資源池中的應(yīng)用
我們知道暑中，CPU 資源是有限的篱瞎，任務(wù)的處理速度與線程個數(shù)并不是線性正相關(guān)苟呐。相反，過多的線程反而會導(dǎo)致 CPU 頻繁切換俐筋，處理性能下降牵素。所以，線程池的大小一般都是綜合考慮要處理...
-
棧：如何實現(xiàn)瀏覽器的前進(jìn)和后退功能
后進(jìn)者先出澄者，先進(jìn)者后出笆呆，這就是典型的“棧”結(jié)構(gòu)粱挡。 從棧的操作特性上來看赠幕，棧是一種“操作受限”的線性表，只允許在一端插入和刪除數(shù)據(jù)询筏。與數(shù)組和鏈表來比榕堰，這兩者暴露了太多的操作接口...
-
機器學(xué)習(xí)-常用優(yōu)化方法
一階方法：梯度下降、隨機梯度下降痹筛、mini 隨機梯度下降降法莺治。 隨機梯度下降不但速度上比原始梯度下降要快，局部最優(yōu)化問題時可以一定程度上抑制局部最優(yōu)解的發(fā)生帚稠。首先要明確一個事...
-
機器學(xué)習(xí)-面試總結(jié)
決策樹問題 1）各種熵的計算熵谣旁、聯(lián)合熵、條件熵滋早、交叉熵榄审、KL散度（相對熵） 熵用于衡量不確定性，所以均分的時候熵最大 熵的理解:熵其實定義了一個函數(shù)(概率分布函數(shù))到一個值(...
-
Numpy中幾種矩陣的乘法
dot 同線性代數(shù)中矩陣乘法的定義： np.dot()np.dot(A, B)：對于二維矩陣馆衔，計算真正意義上的矩陣乘積，同線性代數(shù)中矩陣乘法的定義怨绣。對于一維矩陣角溃，計算兩者的內(nèi)...
-
關(guān)于Numpy的細(xì)節(jié)
asix =1 是按照行計算（也就是列間計算，最后剩下一個n1的矩陣）asix =0 是按照列計算 （行間計算篮撑，最后剩下一個1n的矩陣）
-
神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)-3.3隨機初始化
如果你使用一個簡單的邏輯回歸减细，那么進(jìn)行隨機初始化，或者直接吧所有的權(quán)重矩陣置為0那是沒有問題的赢笨。但是對于神經(jīng)網(wǎng)絡(luò)來說未蝌，如果都置為0那么將是不能接受的驮吱。這是因為，如果你的w全是...
-
神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)-3.2激活函數(shù)為什么要使用激活函數(shù)萧吠？目前只介紹了sigmoid函數(shù)左冬。下面多介紹幾個激活函數(shù)。 sigmoid 現(xiàn)在已經(jīng)不使用纸型，除非在輸出層進(jìn)行0～1的概率輸出時使用 tanh 幾乎在任何場...
-
Jupyter代碼自動補全Mac環(huán)境下本來可以用tab來進(jìn)行補全拇砰，但是這個東西跟在vim環(huán)境下編程一樣，得用快捷鍵很麻煩狰腌。沒有pycharm那么補全的方便除破。下面放上方法主要是用conda來安裝（我覺得直接安裝一個...
-
神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)-3.1神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)對于神經(jīng)網(wǎng)絡(luò)的計算我們通常使用向量化計算。一般來說琼腔，把input層當(dāng)作第0層瑰枫，隱層和輸出層作為真正的層。對于縱向排列的神經(jīng)元丹莲，我們把它看作為一個列向量光坝，一般4*3的矩陣，4就...
-
神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)-2.4向量化向量化是消除代碼中顯示的for循環(huán)語句的藝術(shù)兩種寫法的代碼 正向傳播 一些小的建議 使用numpy的時候圾笨，不要使用np.random.rand(5)這種生成秩為1 的數(shù)組教馆，因...
-
神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)-2.3計算圖和邏輯回歸的梯度下降任何神經(jīng)網(wǎng)絡(luò)都有一個向前計算和向后計算的過程。簡而言之擂达，利用一般的編程角度其實就是計算的過程土铺，精簡到每一次加法減法。 羅輯回歸的梯度下降 首先回顧一下邏輯回歸的基本公式 m個...
-
神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)-2.2梯度下降法回顧成本函數(shù)J和預(yù)測的y hat 注意這里的J被定義為1/m的損失函數(shù)之和 目前的任務(wù)是找到w和b最小化J（w,b） 使用一個一緯的w可以比較容易的畫出上圖主要分為2個部分板鬓，...