一犹褒、關(guān)于TensorFlow.js
作為深度學(xué)習(xí)界的當(dāng)紅炸子雞——TensorFlow 開源組織終于在 2018 年 3 月推出了首個(gè) JavaScript 版本猜极。TensorFlow.js 可以在瀏覽器端完成模型訓(xùn)練消别、執(zhí)行和再訓(xùn)練等基本任務(wù)擂红,并且借助 WebGL 技術(shù)土砂,可以和 Python乏悄、C++ 版本一樣能夠通過 GPU 硬件加速完成計(jì)算過程龙亲。
二陕凹、基本概念
1.算法模型
y = f(x)
上述公式中,x是輸入項(xiàng)鳄炉,y是輸出項(xiàng)杜耙,而f(x)就是模型的核心函數(shù)。需要注意的是這里的輸入和輸出通常都是張量而不是標(biāo)量拂盯。
例如:
y = w1 * obstacleX + w2 * obstacleWidth + b
其中obstacleX和obstacleWidth是輸入項(xiàng)佑女, w1、w2為輸入項(xiàng)的權(quán)重谈竿,b是偏移量
2.訓(xùn)練
通過已知輸入項(xiàng) obstacleX 团驱、obstacleWidth和輸出項(xiàng) y 來調(diào)節(jié)模型中 w1、w2 和 b 參數(shù)直到“最佳效果”的過程空凸,被稱為訓(xùn)練(train)過程嚎花,而 y 因?yàn)槭且阎妮敵鲰?xiàng),又被稱為標(biāo)簽(label)劫恒,多組輸入項(xiàng)(obstacleX 贩幻、obstacleWidth)和 輸出項(xiàng)(y) 在一起被稱為訓(xùn)練數(shù)據(jù)集(training data set)轿腺。訓(xùn)練通常需要反復(fù)執(zhí)行很多次,才能達(dá)到“最佳效果”丛楚。
3.預(yù)測(cè)
機(jī)器學(xué)習(xí)中族壳,已知輸入項(xiàng) x 和模型求 y 時(shí),被稱為預(yù)測(cè)(predict)過程趣些。
4.評(píng)價(jià)
在訓(xùn)練過程中仿荆,將訓(xùn)練數(shù)據(jù)集中的 x 作為輸入項(xiàng),執(zhí)行預(yù)測(cè)過程坏平,將預(yù)測(cè)結(jié)果與標(biāo)簽 y 的實(shí)際結(jié)果進(jìn)行對(duì)比拢操,并通過一個(gè)函數(shù)得到一個(gè)分值用以表示當(dāng)前模型的擬合能力,被稱為評(píng)價(jià)(evaluatie)過程,這個(gè)函數(shù)被稱為評(píng)價(jià)函數(shù)或損失函數(shù)(loss function)舶替。
機(jī)器學(xué)習(xí)就是一個(gè)不斷訓(xùn)練令境、評(píng)價(jià)迭代的模型訓(xùn)練過程,訓(xùn)練得越好顾瞪,則未來預(yù)測(cè)得越準(zhǔn)確舔庶。
5.張量
張量是TensorFlow.js中的最重要的數(shù)據(jù)單元,它是一個(gè)形狀為一維或多維數(shù)組組成的數(shù)值的集合陈醒。tf.Tensor
和多維數(shù)組其實(shí)非常的相似惕橙。
標(biāo)量 : 有些物理量,只有數(shù)值大小钉跷,沒有方向弥鹦,這種即稱為標(biāo)量,也可稱做零階張量爷辙。
向量(矢量 vector): 具有大小和方向的量彬坏,也可稱做一階張量
張量(tensor):我們的目的是要用數(shù)學(xué)量來表示物理量,可是標(biāo)量加上向量犬钢,都不足以表達(dá)所有的物理量苍鲜,所以就需要擴(kuò)大數(shù)學(xué)量的概念,張量就出現(xiàn)了玷犹。
張量包含如下屬性:
- rank: 張量的維度(張量的維數(shù)被描述為階或者秩),例如純量就是0階洒疚,向量為1階歹颓,矩陣為2階。
- shape: 每個(gè)維度的數(shù)據(jù)大小
const a = tf.tensor([[1, 2], [3, 4]]);
console.log('a shape:', a.shape);
a.print();
const b = a.reshape([4, 1]);
console.log('b shape:', b.shape);
b.print();
//a shape: 2,2
//Tensor
// [[1, 2],
// [3, 4]]
//b shape: 4,1
//Tensor
// [[1],
// [2],
// [3],
// [4]]
- dtype: 張量中的數(shù)據(jù)類型油湖,在默認(rèn)的情況下巍扛,
tf.Tensor
的數(shù)據(jù)類型也就是dtype
為32位浮點(diǎn)型(float32
)。當(dāng)然tf.Tensor
也可以被創(chuàng)建為以下數(shù)據(jù)類型:布爾(bool
), 32位整型(int32
), 64位復(fù)數(shù)(complex64
), 和字符串(string
)
三乏德、TensorFlow.js API
1.初始化創(chuàng)建一個(gè)張量
tf.tensor(values,shape?,dtype?)
tf.tensor([1, 2, 3, 4]).print();
//Tensor [1, 2, 3, 4]
tf.tensor([[1, 2], [3, 4]]).print();
//Tensor [[1, 2], [3, 4]]
tf.tensor([1, 2, 3, 4], [2, 2]).print();
//Tensor[[1, 2],[3, 4]]
//其中dtype 為('float32'|'int32'|'bool'|'complex64'|'string')
tf.scalar(value, dtype?)創(chuàng)建零階張量
tf.scalar(3.14).print();
//Tensor 3.140000104904175
tf.buffer(shape,dtype?,values?)
const buffer = tf.buffer([2, 2]);
buffer.set(3, 0, 0);
buffer.set(5, 1, 0);
buffer.toTensor().print();
//張量[[3撤奸,0]吠昭,[5,0]]
tf.clone(x)
//創(chuàng)建一個(gè)具有與指定張量相同的值和形狀的新張量胧瓜。
const x = tf.tensor([1, 2]);
x.clone().print();
//張量[1矢棚,2]
tf.complex(real,imag)
//給定一個(gè)real表示復(fù)數(shù)的實(shí)部的張量和一個(gè)imag表示復(fù)數(shù)的虛部的張量,此操作將以[r0府喳,i0蒲肋,r1,i1]的形式逐元素返回復(fù)數(shù)钝满,其中r表示實(shí)部兜粘,i代表imag的一部分。
const real = tf.tensor1d([2.25, 3.25]);
const imag = tf.tensor1d([4.75, 5.75]);
const complex = tf.complex(real, imag);
complex.print();
//張量[2.25 + 4.75j弯蚜,3.25 + 5.75j]
tf.fill(shape,values,dtype?)
//創(chuàng)建一個(gè)用標(biāo)量值填充的張量
tf.fill([2, 2], 4).print();
//張量[[4孔轴,4],[4碎捺,4]]
tf.imag(x)
//返回復(fù)數(shù)(或?qū)崝?shù))張量的虛部路鹰。
const x = tf.complex([-2.25, 3.25], [4.75, 5.75]);
tf.imag(x).print();
Tensor [4.75, 5.75]
tf.linspace(start,stop,num)
//在給定的間隔內(nèi)返回均勻間隔的數(shù)字序列。
// start (數(shù)字) 序列的起始值牵寺。
// stop (數(shù)字) 序列的結(jié)束值悍引。
// num (數(shù)字) 要生成的值的數(shù)目。
tf.linspace(0, 9, 10).print();
//張量[0帽氓、1趣斤、2、3黎休、4浓领、5、6势腮、7联贩、8、9]
tf.real(x)
//返回復(fù)數(shù)(或?qū)崝?shù))張量的實(shí)部捎拯。
const x = tf.complex([-2.25, 3.25], [4.75, 5.75]);
tf.real(x).print();
//張量[-2.25泪幌,3.25]
tf.variable(initialValue,trainable?,name?,dtype?)
//用提供的初始值創(chuàng)建一個(gè)新變量。
// initialValue:張量的初始值
// trainable: 如果為true署照,則允許優(yōu)化器對(duì)其進(jìn)行更新祸泪。
// name:變量的名稱
const x = tf.variable(tf.tensor([1, 2, 3]));
x.assign(tf.tensor([4, 5, 6]));
x.print();
//張量[4,5建芙,6]
2.修改張量的形狀
張量中的元素?cái)?shù)量是這個(gè)張量的形狀的乘積(例如一個(gè)形狀為[2,3]的張量所含有的元素個(gè)數(shù)為2*3=6個(gè))
tf.reshape(x,shape)
//給定輸入張量没隘,返回一個(gè)新的張量
const x = tf.tensor1d([1, 2, 3, 4]);
x.reshape([2, 2]).print();
//張量[[1,2]禁荸,[3右蒲,4]]
3. 操作張量
tf.square()
const x = tf.tensor([1, 2, 3, 4]);
const y = x.square(); // 相當(dāng)于 tf.square(x)
y.print();
tf,add()
const a = tf.tensor([1, 2, 3, 4]);
const b = tf.tensor([10, 20, 30, 40]);
const y = a.add(b); // 相當(dāng)于 tf.add(a, b)
y.print();
因?yàn)閺埩渴遣豢勺兊姆赃@些運(yùn)算并不會(huì)更改他們的值。相應(yīng)的這些操作總會(huì)返回一個(gè)新的張量瑰妄。
tf.slice(x,begin,size?)
//x:要切片的輸入張量
//begin:起始切片的坐標(biāo)
//size:切片的大小
4.內(nèi)存操作
tf.dispose()
const a = tf.tensor([[1, 2], [3, 4]]);
a.dispose(); // 相當(dāng)于 tf.dispose(a)