博客文章搬遷至CSDN
作為程序員一枚颈抚,長期混跡在各種社交app上面踩衩,想要找到一個(gè)心儀的對象(老實(shí)人,沒啥好遮掩的贩汉,哈哈哈哈)驱富。 用過soul, 陌陌雾鬼,探探和珍愛網(wǎng)的a...
gradient descent 的方法介紹和自適應(yīng)步長的使用萌朱,加速優(yōu)化速度 gradient descent 方法總結(jié) 方法容易理解宴树,迭代容易...
凸集合 今天策菜,定義一下凸集合(convex set)C: 假設(shè)凸集合C: C, 有兩個(gè)向量 x,yC, 使得 tx+(1-t)yC 對于t[0,...
Pytorch保存模型的兩種方式: 1 模型結(jié)構(gòu)和模型參數(shù)都保存下來 優(yōu)點(diǎn):不需要預(yù)初始化模型,直接加載酒贬,就可以獲得模型和參數(shù)又憨,只要把數(shù)據(jù)放進(jìn)去...
遷移學(xué)習(xí)的兩種基本應(yīng)用場景: 1 模型初始化又叫做 finetuning, 一般的模型初始化是一個(gè)隨機(jī)初始锭吨,但是使用訓(xùn)練好的參數(shù)作為初始化蠢莺,可能...
nn.Dropout ---- input 可以是任何形狀和尺寸,一般是用在全連接線性映射之后(緊跟著)零如。nn.Dropout2d ---- i...
學(xué)習(xí)率走廊 lr_scheduler.LambdaLR(optimizer,lr_lamda,last_epoch=-1,verbose=Fal...
如何有效監(jiān)控深度學(xué)習(xí)的訓(xùn)練過程躏将,即便是在服務(wù)器突然宕機(jī)的情況下? 第一種 使用python的logging庫函數(shù)考蕾,比較方便祸憋,當(dāng)然需要書寫一部分代...