Model-free reinforcement learning has been successfully applied to a range of challenging problems, and has recently been extended to handle large neural network policies and value functions. However, the sample complexity of model-free algorithms, particularly when using high-dimensional function approximators, tends to limit their applicability to physical systems. In this paper, we explore algorithms and representations to reduce the sample complexity of deep reinforcement learning for continuous control tasks. We propose two complementary techniques for improving the efficiency of such algorithms. First, we derive a continuous variant of the Q-learning algorithm, which we call normalized advantage functions (NAF), as an alternative to the more commonly used policy gradient and actor-critic methods. NAF representation allows us to apply Q-learning with experience replay to continuous tasks, and substantially improves performance on a set of simulated robotic control tasks. To further improve the efficiency of our approach, we explore the use of learned models for accelerating model-free reinforcement learn-ing. We show that iteratively refitted local linear models are especially effective for this, and demonstrate substantially faster learning on do-mains where such models are applicable.
Continuous Deep Q-Learning with Model-based Acceleration
最后編輯于 ：
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
- 文/潘曉璐 我一進(jìn)店門，熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)三痰，“玉大人吧寺，你說(shuō)我怎么就攤上這事∩⒔伲” “怎么了稚机？”我有些...
- 文/不壞的土叔 我叫張陵，是天一觀的道長(zhǎng)获搏。 經(jīng)常有香客問(wèn)我赖条，道長(zhǎng)，這世上最難降的妖魔是什么常熙？ 我笑而不...
- 正文 為了忘掉前任纬乍，我火速辦了婚禮，結(jié)果婚禮上裸卫，老公的妹妹穿的比我還像新娘仿贬。我一直安慰自己，他們只是感情好墓贿，可當(dāng)我...
- 文/花漫 我一把揭開白布茧泪。 她就那樣靜靜地躺著蜓氨，像睡著了一般。 火紅的嫁衣襯著肌膚如雪队伟。 梳的紋絲不亂的頭發(fā)上穴吹，一...
- 那天，我揣著相機(jī)與錄音缰泡，去河邊找鬼刀荒。 笑死，一個(gè)胖子當(dāng)著我的面吹牛棘钞，可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播干毅，決...
- 文/蒼蘭香墨 我猛地睜開眼宜猜，長(zhǎng)吁一口氣：“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼！你這毒婦竟也來(lái)了硝逢？” 一聲冷哼從身側(cè)響起姨拥，我...
- 序言：老撾萬(wàn)榮一對(duì)情侶失蹤，失蹤者是張志新（化名）和其女友劉穎渠鸽，沒想到半個(gè)月后叫乌，有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體，經(jīng)...
- 正文 獨(dú)居荒郊野嶺守林人離奇死亡徽缚，尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
- 正文 我和宋清朗相戀三年憨奸，在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片凿试。...
- 正文 年R本政府宣布详炬，位于F島的核電站盐类，受9級(jí)特大地震影響，放射性物質(zhì)發(fā)生泄漏呛谜。R本人自食惡果不足惜在跳，卻給世界環(huán)境...
- 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望呻率。 院中可真熱鬧硬毕，春花似錦、人聲如沸礼仗。這莊子的主人今日做“春日...
- 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至韭脊，卻和暖如春童谒，著一層夾襖步出監(jiān)牢的瞬間，已是汗流浹背沪羔。 一陣腳步聲響...
- 正文 我出身青樓琅豆，卻偏偏與公主長(zhǎng)得像，于是被迫代替她去往敵國(guó)和親篓吁。 傳聞我的和親對(duì)象是個(gè)殘疾皇子茫因，可洞房花燭夜當(dāng)晚...
推薦閱讀更多精彩內(nèi)容
- 和他分開以后Q收拾東西辭了工作離開了這座城市走的時(shí)候她給我說(shuō)自己一年內(nèi)不會(huì)再回來(lái)了 帶著自己工作不久為數(shù)不多的存款...
- 我們?nèi)绾慰吹絺鶆?wù)冻押？看待房貸？看待信用卡債務(wù)盛嘿？看待p2p借款洛巢？ 現(xiàn)在是否消費(fèi)債纏身？是否被金錢困擾覺得壓力山大次兆？ 一...
- 假如我們現(xiàn)在既找到了目標(biāo)类垦，也有了相應(yīng)的計(jì)劃狈邑，那到底要不要告訴別人呢？每個(gè)人的答案當(dāng)然是不同的蚤认，但我個(gè)人來(lái)說(shuō)米苹，還是傾...
