發(fā)簡信
IP屬地：四川
-
K-BERT理解0. Abstract BERT它是一種從大規(guī)模語料庫中學(xué)得語言表征的模型淫奔，但是，在專業(yè)領(lǐng)域表現(xiàn)不佳瀑踢。為了解決該問題凝果，作者提出了一個基于知識圖譜...
-
Position-aware Attention and Supervised Data Improve Slot Filling論文理解論文題目：Position-aware Attention and Supervised Data Improve Slot Filling 發(fā)...
-
矩陣向量求導(dǎo)本文整理自李建平機器學(xué)習(xí)中的矩陣向量求導(dǎo)系列和長軀鬼俠的矩陣求導(dǎo)術(shù)。 1. 符號說明 默認符號： ：標(biāo)量 : 維列向量 : 維列向量 ：...
-
EM算法
1. EM介紹 EM(Expectation Maximization Algorithm, EM)是Dempster等人于1977年提出的一種...
-
GloVe理解1. 背景介紹 詞向量在很多應(yīng)用中都有重要作用。現(xiàn)今學(xué)習(xí)詞向量的方法主要分兩類：1）Global Matrix Factorization Me...
-
word2vec參數(shù)學(xué)習(xí)詳解前言 word2vec雖然非常流行和被廣泛關(guān)注，但即使在原作者(Mikolov et al)的文章中酒贬，也沒有給出CBOW和Skip-Gram兩個...
-
信息熵相關(guān)的定義定理
1. 信息熵 // todo 2. 條件熵 // todo 3. 聯(lián)合熵 // todo 4. 相對熵KL距離 5. 互信息 // todo 6...
-
softmax函數(shù)
// todo
-
word2vec
Q1: 為什么用權(quán)重矩陣作為詞向量？ Q2: skip-gram是輸入target翠霍，預(yù)測context，那請問它的輸入是什么形式蠢莺？您說輸入層對應(yīng)...