[ACL 2019] Neural News Recommendation with Long- and Short-term User Representations
- 新聞推薦疯汁，學(xué)習(xí)用戶的兩個(gè)表示：用戶的長(zhǎng)期興趣和短期興趣
- 其他工作一般都只學(xué)習(xí)了用戶的一種表示
- 長(zhǎng)期興趣表示就是一個(gè)固定的user Embedding
- 短期用戶表示就是用戶最近點(diǎn)擊的新聞的表示，通過(guò)GRU得到
-
新聞的表示建模如下圖丧荐，兩個(gè)級(jí)別的Topic Embedding和Title的表示拼接烹骨，Title的表示用CNN+Attention得到
news encoder -
然后就是怎么合并兩種用戶表示了欺矫，一種是用長(zhǎng)期用戶表示初始化短期表示的GRU hidden state，一折是直接拼接兩種表示展氓，從實(shí)驗(yàn)效果來(lái)看穆趴，初始化的效果好一點(diǎn)，兩個(gè)方法具體如下兩圖
LSTUR-ini
LSTUR-con - 最后通過(guò)用戶表示與候選news表示做點(diǎn)積得到預(yù)測(cè)分?jǐn)?shù)
- 主要貢獻(xiàn)：提出了一種方法同時(shí)學(xué)習(xí)用戶的長(zhǎng)期和短期表示
[IJCAI 2019] Deep Session Interest Network for Click-Through Rate Prediction
- 阿里的文章遇汞，DIN和DIEN之后的一篇未妹，DSIN
-
本文考慮到一個(gè)現(xiàn)象，就是用一個(gè)session里面的item一般都是很相似的空入，不同session的item差異比較大络它，如下圖：
session的差異 -
所以本文提出了一個(gè)基于session的CTR預(yù)估方法，整體結(jié)構(gòu)如下
Overview - 對(duì)于每一個(gè)session歪赢，用multi-head self-attention建模然后mean pooling得到一個(gè)表示
- 然后用Bi-LSTM對(duì)多個(gè)session的表示建模
- 中間用attention（activation unit）得到兩個(gè)整體的表示
- 最后與user profile表示化戳、item profile表示拼一起，然后MLP得到最后的預(yù)測(cè)值
- 主要貢獻(xiàn)：提出了一種基于session的CTR預(yù)估模型
- 缺點(diǎn)：user沒(méi)有與item做任何交互，只是最后拼一起了
[KDD 2019] Beyond Personalization: Social Content Recommendation for Creator Equality and Consumer Satisfaction
- 平衡內(nèi)容創(chuàng)建者平等和內(nèi)容消費(fèi)者滿意度
- 就是說(shuō)對(duì)長(zhǎng)尾用戶的內(nèi)容增加曝光点楼，而又不損害用戶滿意度
- 主要通過(guò)對(duì)用戶的多級(jí)社交網(wǎng)絡(luò)friends做attention扫尖，這樣得到用戶的個(gè)性化表示能增加推薦的準(zhǔn)確度和多樣性
-
對(duì)內(nèi)容（文檔）的建模如下圖，通過(guò)CNN+attention對(duì)word level建模掠廓，然后通過(guò)BiGRU+attention得到整個(gè)文檔的表示
architecture -
用戶的表示换怖，也就是他的多個(gè)多級(jí)friends的表示的attention，多個(gè)friends通過(guò)蒙特卡羅樹探索得到蟀瞧，如下圖：
social -
用Gini指數(shù)來(lái)量化不同模型的解決長(zhǎng)尾問(wèn)題的程度沉颂，越大的Gini指數(shù)說(shuō)明越少的內(nèi)容統(tǒng)治了整個(gè)市場(chǎng)，實(shí)驗(yàn)效果如圖：
實(shí)驗(yàn)效果 - 主要貢獻(xiàn)：提出了內(nèi)容生產(chǎn)者公平的問(wèn)題悦污，不能使得用戶滿意度降低铸屉，同時(shí)提出了一個(gè)模型來(lái)解決這個(gè)問(wèn)題。
[KDD 2019] Real-time Attention Based Look-alike Model for Recommender System
- 騰訊的文章切端，也是解決長(zhǎng)尾內(nèi)容的問(wèn)題
- 用Look-alike模型彻坛，就是對(duì)一個(gè)item，得到與其有過(guò)交互的一些用戶當(dāng)做seed users帆赢，然后從seed users出發(fā)得到一些相似的其他用戶，給這些用戶推薦這個(gè)item
-
這樣的話线梗，只要一個(gè)item與其交互過(guò)的user數(shù)量達(dá)到一定量椰于，就能把它推薦給很多用戶了， 結(jié)構(gòu)如下圖
model structure - 然后通過(guò)異步更新seed users的方法使得可以快速在線預(yù)測(cè)
- 主要貢獻(xiàn)：提出了長(zhǎng)尾內(nèi)容問(wèn)題仪搔，并且提出一個(gè)解決方法
[WWW 2019] Feature Generation by Convolutional Neural Network for Click-Through Rate Prediction
- 自動(dòng)特征增廣方法
-
通過(guò)CNN從原始特征中生成一些新的特征瘾婿，用來(lái)模擬特征工程，來(lái)得到更好的效果烤咧， 如下圖
FGCNN -
具體的偏陪，原始特征就是多個(gè)Field的Embedding表示的一個(gè)矩陣， 然后用CNN在這個(gè)矩陣上做卷積煮嫌，得到生成的人造特征笛谦，再與原始特征拼一起來(lái)做預(yù)測(cè)，如下圖
overview - 主要貢獻(xiàn)：一種新的角度做模型昌阿，生成人造特征
- 缺點(diǎn)：特征就還是原來(lái)的沒(méi)有變饥脑，相當(dāng)于多做了一步而已
[KDD 2019] Behavior Sequence Transformer for E-commerce Recommendation in Alibaba
- 用Transformer對(duì)用戶行為建模，得到預(yù)測(cè)結(jié)果
-
整體結(jié)構(gòu)圖如下懦冰，就是用transformer對(duì)歷史item表示和target item一起建模灶轰，然后去其他特征的表示拼一起，然后MLP得到最后的預(yù)測(cè)
overview architecture - 主要貢獻(xiàn)：用Transformer結(jié)構(gòu)對(duì)用戶序列建模
[KDD 2019] Hierarchical Gating Networks for Sequential Recommendation
- 分層門控網(wǎng)絡(luò)做序列推薦
- 用戶興趣分為長(zhǎng)期和短期興趣刷钢，然后短期興趣其實(shí)是很難通過(guò)最近交互的items捕捉到
-
本文通過(guò)兩層的gate機(jī)制來(lái)對(duì)用戶的短期興趣建模笋颤，模型結(jié)果如下
architecture - 第一層gate按維度對(duì)表示做gate，第二層按item對(duì)item表示做gate内地，然后通過(guò)average或max聚合得到一個(gè)表示
- 最后的預(yù)測(cè)值通過(guò)user與target伴澄，gated表示與target以及原始item表示與target的點(diǎn)積求和得到
- 主要貢獻(xiàn)：提出了一個(gè)新的方法來(lái)預(yù)測(cè)下一個(gè)item推薦
