90后<br>天秤座<br>半個(gè)語(yǔ)言學(xué)家厅须，半個(gè)程序媛<br>溫柔半兩，從容一生<br>人間有味，最是清歡
發(fā)簡(jiǎn)信
IP屬地：英格蘭
-
-
谷歌翻譯接口使用記錄
需要翻墻 安裝： demo: 報(bào)錯(cuò)： 更改下載 google_trans_new 包中的代碼文件 google_trans_new.py 151 行如下 問(wèn)題解決，運(yùn)行結(jié)果,
-
label smooth
標(biāo)簽平滑：Label Smoothing（標(biāo)簽平滑）是一個(gè)經(jīng)典的正則化方法，機(jī)器學(xué)習(xí)的樣本中通常會(huì)存在少量錯(cuò)誤標(biāo)簽音五，這些錯(cuò)誤標(biāo)簽會(huì)影響到預(yù)測(cè)的效果。標(biāo)簽平滑采用如下思路解決這...
-
linux下anaconda目錄遷移1.移動(dòng)到新的目錄 mv /old_path/anaconda3 /new_path/ # 很久之后 2. 修改新路徑下 anaconda3 中的這些文件...
-
torch model.eval()
1. model.train() 作用：?jiǎn)⒂?Batch Normalization 和 Dropout羔沙，如果模型中有BN層(Batch Normalization）和Dro...
-
特征穩(wěn)定性
part1：特征穩(wěn)定性 特征穩(wěn)定性躺涝，就是關(guān)注該特征的取值隨著時(shí)間的推移會(huì)不會(huì)發(fā)生大的波動(dòng)， 對(duì)特征穩(wěn)定性的關(guān)注扼雏，一定要在建模之前完成坚嗜，從一開(kāi)始就避免將那些本身不太穩(wěn)定的特征選...
-
linux服務(wù)器免密登錄
linux 免密登錄： windows 機(jī)器：首先查看自己電腦的私鑰： C:\Users\用戶(hù)名.ssh 記事本打開(kāi) id_rsa.pub ，復(fù)制出私鑰 如果沒(méi)有這個(gè)文件诗充，命...
-
focal loss
先驗(yàn)知識(shí)：交叉熵 - 簡(jiǎn)書(shū) (jianshu.com)[http://www.reibang.com/p/bebd799f1c73] 理解： 針對(duì)類(lèi)別不均衡問(wèn)題苍蔬，作者提出一...
-
BCEWithLogitsLoss參數(shù)weight
1. weight: a manual rescaling weight given to the loss of each batch element. If given,...
-
BCEWithLogitsLoss參數(shù)pos_weight樣本不均衡問(wèn)題下面是具體的參數(shù)： 1. pos_weight: 處理樣本不均衡問(wèn)題torch.nn.BCEWithLogitsLoss(weight=None, size_average=...
-
BCELoss和BCEWithLogitsLoss計(jì)算多標(biāo)簽分類(lèi)時(shí)候的損失函數(shù)一般選擇BCELoss和BCEWithLogitsLoss，這兩者的區(qū)別在于： BCELoss 是處理經(jīng)過(guò)Sigmoid之后輸出的概率值 BCEW...
-
多標(biāo)簽 V/S 多分類(lèi)
多標(biāo)簽 V/S 多分類(lèi)多類(lèi)分類(lèi)(Multiclass classification):表示分類(lèi)任務(wù)中有多個(gè)類(lèi)別, 比如對(duì)一堆水果圖片分類(lèi), 它們可能是橘子蝴蜓、蘋(píng)果碟绑、梨等. 多類(lèi)...
-
踩坑記錄模型加載參數(shù)不匹配 出現(xiàn)場(chǎng)景，使用transformers包的預(yù)訓(xùn)練模型 from_pretrained加載huggingface 模型茎匠，然后在這基礎(chǔ)上繼續(xù)訓(xùn)練格仲，由于模型參數(shù)...
-
【論文學(xué)習(xí)】《Cross-lingual Language Model Pretraining》主題： 最近的研究證明了生成性預(yù)訓(xùn)練對(duì)英語(yǔ)自然語(yǔ)言理解的有效性，我們講這種方法擴(kuò)展到多語(yǔ)言汽抚，并且展現(xiàn)了跨語(yǔ)言預(yù)訓(xùn)練的有效性 兩種方法 for cross-lingual la...
-
pycharm 遠(yuǎn)程調(diào)試linux服務(wù)器Tools——>Deployment——> Configuration 新建一個(gè)SFTP服務(wù)抓狭，配置connection伯病，填寫(xiě)遠(yuǎn)程服務(wù)器地址和用戶(hù)名密碼造烁，然后點(diǎn)擊Text Co...
-
【論文學(xué)習(xí)】《A Closer Look at Few-Shot Crosslingual Transfer: The Choice of Shots Matters》
主題：少樣本跨語(yǔ)言遷移學(xué)習(xí)比基于多語(yǔ)言預(yù)訓(xùn)練模型在無(wú)樣本學(xué)習(xí)上遷移效果更好否过，但是這項(xiàng)工作目前沒(méi)有標(biāo)準(zhǔn)化的實(shí)驗(yàn)流程，可解釋性欠缺惭蟋，于是這篇論文設(shè)計(jì)實(shí)驗(yàn)深入分析了苗桂，少樣本跨語(yǔ)言遷...
-
【論文學(xué)習(xí)】《Dice Loss for Data-imbalanced NLP Tasks》
主要內(nèi)容： 文章提出用 Dice Loss 替代 交叉熵(standard cross-entropy loss) 在數(shù)據(jù)不平衡的 NLP 任務(wù)上面提升效果 1. 數(shù)據(jù)不平衡...
-
動(dòng)態(tài)規(guī)劃算法
算法基本思想： 將復(fù)雜問(wèn)題分解為若干子問(wèn)題 先求解子問(wèn)題，重復(fù)利用子問(wèn)題的解求得原問(wèn)題的解 基本要素： 最優(yōu)子結(jié)構(gòu)性質(zhì) 重疊子問(wèn)題 基本步驟： 建立狀態(tài)轉(zhuǎn)移方程 -> 存儲(chǔ)并...
-
RoBERTa相比較bert告组，RoBERTa有以下幾個(gè)改進(jìn)： 模型參數(shù)：RoBERTa采用更大模型參數(shù)（1024 塊 V100 GPU 訓(xùn)練了 1 天的時(shí)間）煤伟。 Batch Size：Ro...
-
Distilbert因?yàn)锽ert本身參數(shù)量大，所以上線(xiàn)的過(guò)程中會(huì)碰到需求大空間和速度慢等問(wèn)題木缝。當(dāng)前對(duì)Bert瘦身有三個(gè)思路便锨，分別是Distillation（蒸餾）、Quantization（量化...
