張量(tensor):
輸入網(wǎng)絡(luò)數(shù)據(jù)的存儲對象
張量是數(shù)字容器桥温,其維度(dimension)稱為軸(axis)
1引矩、一個數(shù)字的張量叫標(biāo)量(scalar、標(biāo)量張量策治、零維張量脓魏、0D張量)。ndim可以看軸的個數(shù)(階 rank)通惫。
2茂翔、向量(1D張量、一維張量)履腋。注意:5D向量和5D張量不要弄混珊燎。
3、矩陣(2D張量遵湖、二維張量)
4悔政、3D張量與更高維張量
深度學(xué)習(xí)一般除了0D到4D的張量,但處理視頻數(shù)據(jù)時可能會用到5D張量延旧。
張量3個屬性
- 軸的個數(shù)(階)谋国;
- 形狀。整數(shù)元組迁沫,表示每個軸上的維度(元素個數(shù))芦瘾;
- 數(shù)據(jù)類型捌蚊。
在Numpy中操作張量
選擇張量特定元素叫張量切片(tensor slicing)
數(shù)據(jù)批量的概念
深度學(xué)習(xí)中所有數(shù)據(jù)張量的第一個軸(0軸)稱為樣本軸(samples axis,或稱為樣本維度)近弟。
對于批量張量(MNIST)缅糟,第一個軸(0軸)叫批量軸(batch axis)或批量維度(batch dimension)。
現(xiàn)實(shí)世界中的數(shù)據(jù)張量
需要處理的數(shù)據(jù)總是下列類別之一:
- 向量數(shù)據(jù):2D 張量祷愉,形狀為 (samples, features)窗宦。如:人口統(tǒng)計(jì)數(shù)據(jù);
- 時間序列數(shù)據(jù)或序列數(shù)據(jù): 3D 張量二鳄,形狀為 (samples, timesteps, features)赴涵。如:股票價格數(shù)據(jù)集;
- 圖像: 4D 張量泥从,形狀為 (samples, height, width, channels) 或 (samples, channels,height, width)句占。通道即為顏色深度軸;
- 視頻: 5D 張量躯嫉,形狀為 (samples, frames, height, width, channels) 或 (samples,frames, channels, height, width)纱烘。
張量運(yùn)算:
層的組成要素
梯度下降:
讓網(wǎng)絡(luò)從訓(xùn)練樣本中進(jìn)行學(xué)習(xí)