1 PARL 1.1 parl是paddle平臺下的一款開源強化學習框架，用簡單明晰的方式定義了強化學習過程，并且提供了從入門到進階的全套學習路線，并配有視頻教程，可以說是目...
發(fā)簡信
IP屬地：廣東
-
DQN學習心得 - 基于paddle的強化學習框架PARL -
贊??，總結下
邏輯處理器(P) 為這臺機器定義的一個虛擬 CPU Core (1個實際cpu core 對應多個虛擬cpu core)
系統(tǒng)線程(M): 每一個 P會被分配一個系統(tǒng)線程(M), M會被操作系統(tǒng)調(diào)度，操作系統(tǒng)仍然負責將線程(M)放到一個CPU Core上去執(zhí)行
goroutine(G) 每一個Go程序也被賦予了一個初始的goroutine(G),一個 Goroutine本質(zhì)上就是一個協(xié)程,
Goroutine 不斷的在 M 上做上下文切換
難題就是運行隊列鹅很。在Go調(diào)度器中有2個不同的執(zhí)行隊列：全局隊列（Global Run Queue,簡稱GRQ和本地隊列（Local Run Queue，簡稱 LRQ）罪帖，每個P都有一個本地隊列促煮。GRQ 是用來保存還沒有被分配到 P 的 Goroutine（會有一個邏輯將 Goroutine 從 GRQ 上移動到 LRQ 上）
系統(tǒng)調(diào)度器的行為是搶占式的。本質(zhì)上就意味著你不能夠預測調(diào)度器將會做什么整袁。系統(tǒng)內(nèi)核決定了一切,無法控制內(nèi)核中的調(diào)度邏輯菠齿，除非使用互斥鎖之類的操作。
Go 調(diào)度器是運行在用戶態(tài)的坐昙，在內(nèi)核之上绳匀。當前版本的 Go 調(diào)度器實現(xiàn)并不是搶占式的，而是一個協(xié)同調(diào)度器
Goroutine 有 3 中狀態(tài)：
阻塞態(tài)，有可能是因為要等待系統(tǒng)調(diào)用或者互斥調(diào)用（atomic 和 mutex 操作）
就緒態(tài)疾棵，等待系統(tǒng)線程 M 來執(zhí)行分配給它的指令
運行態(tài)戈钢， Goroutine 被交給了一個 M 執(zhí)行
Go 程序觸發(fā)調(diào)度4種事件：
1.使用關鍵字 go
2.垃圾回收
3.系統(tǒng)調(diào)用
4.同步互斥操作，也就是 Lock()是尔，Unlock() 等
異步系統(tǒng)調(diào)用:
處理網(wǎng)絡請求的殉了。通過使用 network poller 完成網(wǎng)絡系統(tǒng)調(diào)用，調(diào)度器可以避免 Goroutine 在執(zhí)行系統(tǒng)調(diào)用時把 M 阻塞住拟枚。這使得 M 可以去運行 P 的 LRQ 中其他的 Goroutine薪铜，而不需要再創(chuàng)建一個新的 M。這就減少了 OS 層面上的負載恩溅。
同步系統(tǒng)調(diào)用
執(zhí)行系統(tǒng)調(diào)用的 Goroutine 會導致 M 阻塞住
調(diào)度器有能力認出 G1 導致 M 阻塞了隔箍。這時，調(diào)度器會將 M 從 P 上分離出去脚乡，G1 依舊附在 M 上被一起分離了蜒滩。然后調(diào)度器獲取一個 M2 為 P 服務
竊取goroutine
先竊取其他可用的本地隊列，竊取一半每窖。
當沒有本地隊列可用帮掉，則竊取全局隊列 -
百度飛槳深度學習集訓營學習心得1 關于訓練營 訓練營是我偶然從AI studio官網(wǎng)中發(fā)現(xiàn)的，本意是想多認識幾個人于是加了群窒典，參加了這門課程，結果并不如所料稽莉，朋友沒有認識到幾個瀑志，收獲卻頗豐。這門課程體系很...
-
我想請教一下污秆，對于句子長度分布很不平衡的情況劈猪，比如從30-300，如果做padding良拼，會產(chǎn)生大量的'O'標記战得，再做CRF會造成類別不平衡，如果用softmax做庸推，結果沒法看了常侦，這種問題有什么思路解決嗎？
（四）序列標注——實體識別Lattice-LSTM（中）
[if !vml] [endif] 上篇文章簡單總結下經(jīng)典的序列l(wèi)stm-crf模型贬媒，接下來follow兩篇2018最新的有關的文章聋亡。 1.NCRF++: An Open-s...
-
2020新年新計劃
2019年有收獲也有遺憾：在19年認識了很多一起閱讀論文共同進步的伙伴，大家一起閱讀际乘，才讓我不管多忙都抽出空來讀論文坡倔；通過工作認識了很多優(yōu)秀的學長學姐，從他們身上學到很多受益...
-
這個損失函數(shù)有意思，mark一下罪塔，明天看看
關系分類泛讀系列（三）—— Relation Classification via Multi-Level Attention CNNs論文筆記
一投蝉、寫在前面的話 這篇論文發(fā)表于ACL2016，在SemEval 2010 Task 8 數(shù)據(jù)集上達到了88%的F1-Score征堪，為目前最高瘩缆，不過貌似還未有人可以復現(xiàn)。論文使...
-
DataArk以數(shù)據(jù)為驅(qū)動、以開源分享為導向爽锥，是致力于數(shù)據(jù)挖掘涌韩、算法創(chuàng)新和實用工具開發(fā)的開源組織<br>
-
是單一關系抽取吧
關系分類泛讀系列（二）—— Attention-Based Bidirectional Long Short-Term Memory Networks for Relation Classifi...
一、寫在前面的話 這篇論文發(fā)表于ACL2016氯夷，和《Relation Classification via Convolutional Deep Neural Network...
-
跟BERT差不多的思路
【NLP論文筆記】Deep contextualized word representations（ELMO詞向量理解）
本文主要用于記錄華盛頓大學計算機院發(fā)表于2018年的一篇論文臣樱。該論文主要提出了ELMO詞向量模型。本筆記主要為方便初學者快速入門腮考，以及自我回顧雇毫。 論文鏈接：https://a...
