關(guān)于代價函數(shù)的兩個假設(shè)
反向傳播算法的目標(biāo)是計算代價函數(shù)C對神經(jīng)網(wǎng)絡(luò)中出現(xiàn)的所有權(quán)重w和偏置b的偏導(dǎo)數(shù)?C/?w和?/C?b。為了使反向傳播工作秤茅,我們需要對代價函數(shù)的結(jié)構(gòu)做兩個主要假設(shè)童叠。在進(jìn)行假設(shè)之前,在腦海中有一個代價函數(shù)的實(shí)例是很有用的五垮。我們將會使用上一章講到的平方代價函數(shù)作為例子杜秸。上一章的平方代價函數(shù)具有以下形式:
C=1∑∥y(x)?aL(x)∥2