最近有一個(gè)問題詢問“ 當(dāng)ml腳本運(yùn)行時(shí)如何不浪費(fèi)時(shí)間/拖延碍舍？“柠座。
我認(rèn)為這是一個(gè)重要的問題。我認(rèn)為這個(gè)問題的答案顯示了你的工作方法的組織或成熟程度片橡。
我在這個(gè)問題上留下了一個(gè)小小的評(píng)論妈经，但是在這篇文章中，我詳細(xì)說明了我的答案捧书，并給出了一些關(guān)于如何考慮這個(gè)問題吹泡，最小化它甚至完全避免它的觀點(diǎn)。
少運(yùn)行實(shí)驗(yàn)
考慮一下為什么要執(zhí)行模型運(yùn)行经瓷。您幾乎肯定會(huì)進(jìn)行一種探索性數(shù)據(jù)分析爆哑。
您試圖了解您的問題，以達(dá)到特定準(zhǔn)確度的結(jié)果舆吮。您可能需要報(bào)告結(jié)果揭朝，或者您可能希望模型可以運(yùn)行队贱。
您的實(shí)驗(yàn)旨在教您一些有關(guān)該問題的信息。因此潭袱，您需要清楚地了解要從您執(zhí)行的每個(gè)實(shí)驗(yàn)中學(xué)習(xí)的內(nèi)容柱嫌。
如果您沒有明確的明確問題，實(shí)驗(yàn)結(jié)果會(huì)啟發(fā)屯换，請(qǐng)考慮是否需要運(yùn)行實(shí)驗(yàn)编丘。
當(dāng)您獲得問題的經(jīng)驗(yàn)答案時(shí)，請(qǐng)尊重這些結(jié)果彤悔。盡力將新知識(shí)整合到您對(duì)問題的理解中嘉抓。這可能是半正式的工作產(chǎn)品，如日?qǐng)?bào)或技術(shù)報(bào)告晕窑。
運(yùn)行更快的實(shí)驗(yàn)
現(xiàn)代編程的編譯運(yùn)行修復(fù)循環(huán)非常有效掌眠。立竿見影的回報(bào)可以讓您不斷測(cè)試想法和課程更正。
這個(gè)過程并不總是那么有效幕屹。作為工程師，您曾經(jīng)使用筆和紙手工設(shè)計(jì)模塊和桌面檢查他們的邏輯级遭。如果你在編程中做任何數(shù)學(xué)望拖，你很可能仍然使用這個(gè)過程。
一個(gè)有用的現(xiàn)代工具是單元測(cè)試挫鸽，它使桌面檢查過程自動(dòng)化说敏，使它們可重復(fù)。良好的測(cè)試設(shè)計(jì)的準(zhǔn)則是速度丢郊。反饋越直接盔沫，您就可以更快地糾正錯(cuò)誤并修復(fù)錯(cuò)誤。
這里的教訓(xùn)是你想要速度枫匾。
您希望快速獲得問題的經(jīng)驗(yàn)答案架诞，以便您可以提出后續(xù)問題。這并不意味著設(shè)計(jì)糟糕的實(shí)驗(yàn)干茉。這意味著使實(shí)驗(yàn)變得很大或足夠詳細(xì)以回答一個(gè)問題谴忧。
實(shí)現(xiàn)更快速實(shí)驗(yàn)的最簡(jiǎn)單方法是使用減少的數(shù)據(jù)樣本。它是如此簡(jiǎn)單的技術(shù)角虫，它經(jīng)常被忽視沾谓。
通常情況下，您正在尋找的效果可以與數(shù)據(jù)進(jìn)行可預(yù)測(cè)的比例戳鹅，無論是數(shù)據(jù)本身的屬性均驶，如異常值還是數(shù)據(jù)模型的準(zhǔn)確性。
運(yùn)行調(diào)整作為實(shí)驗(yàn)
一些實(shí)驗(yàn)本身就很慢枫虏，就像調(diào)整超參數(shù)一樣妇穴。事實(shí)上爬虱，當(dāng)您的追求是優(yōu)化精確度時(shí)，調(diào)整可能會(huì)讓人上癮伟骨。
完全避免手動(dòng)調(diào)整任何參數(shù)饮潦，這是一個(gè)陷阱！我的建議是使用隨機(jī)或網(wǎng)格搜索等搜索方法設(shè)計(jì)有條理的調(diào)整實(shí)驗(yàn)携狭。
收集結(jié)果并使用實(shí)驗(yàn)建議的最佳參數(shù)继蜡。
如果您想獲得更好的結(jié)果，請(qǐng)?jiān)趨?shù)空間中減少超立方體設(shè)計(jì)后續(xù)實(shí)驗(yàn)逛腿，并將搜??索算法更改為使用基于漸變（或準(zhǔn)梯度）的方法稀并。
在停機(jī)時(shí)間運(yùn)行實(shí)驗(yàn)
避免在最有效的時(shí)間內(nèi)進(jìn)行實(shí)驗(yàn)。如果您在白天工作時(shí)間完成工作单默，請(qǐng)不要占用您的機(jī)器碘举，并在此時(shí)關(guān)注模型運(yùn)行等阻塞任務(wù)。
安排您的實(shí)驗(yàn)在您不工作時(shí)運(yùn)行搁廓。在晚上引颈，午餐時(shí)間和周末進(jìn)行實(shí)驗(yàn)。
要在停機(jī)時(shí)間運(yùn)行實(shí)驗(yàn)境蜕，意味著您需要安排它們蝙场。如果您能夠批量實(shí)驗(yàn)，這將變得更加容易粱年。
你可以花時(shí)間在一批中設(shè)計(jì)5-10個(gè)實(shí)驗(yàn)售滤，準(zhǔn)備模型運(yùn)行并在你的關(guān)閉時(shí)間順序或并行地運(yùn)行實(shí)驗(yàn)。
這可能需要紀(jì)律來解決問題和實(shí)驗(yàn)所服務(wù)的答案台诗。這樣做的好處將是您獲得的有關(guān)問題的深度知識(shí)以及獲得問題的速度完箩。
在場(chǎng)外進(jìn)行實(shí)驗(yàn)
有些實(shí)驗(yàn)可能需要數(shù)天或數(shù)周，這意味著在工作站上運(yùn)行它們實(shí)際上是不可行的拉队。
對(duì)于長(zhǎng)時(shí)間運(yùn)行的實(shí)驗(yàn)弊知，您可以利用云中的計(jì)算服務(wù)器（如EC2和朋友）或本地計(jì)算服務(wù)器。無論是哪種語言環(huán)境粱快，都不能實(shí)時(shí)使用計(jì)算服務(wù)器吉捶。您提出問題并收到答案。
計(jì)算服務(wù)器的最有效使用是擁有一個(gè)問題隊(duì)列和一個(gè)過程皆尔，用于消費(fèi)并將答案集成到您不斷增長(zhǎng)的問題知識(shí)庫(kù)中呐舔。
例如，您可以設(shè)置每天（或夜晚）運(yùn)行一個(gè)實(shí)驗(yàn)的目標(biāo)慷蠕，無論如何珊拼。我經(jīng)常嘗試在新項(xiàng)目上堅(jiān)持這種模式。這有助于保持高勢(shì)頭流炕。
當(dāng)想法減弱時(shí)澎现，您可以通過輕率的優(yōu)化實(shí)驗(yàn)填充隊(duì)列仅胞，以調(diào)整性能良好的模型的參數(shù)，這是一個(gè)可以隨時(shí)備份的持續(xù)后臺(tái)任務(wù)剑辫。
在實(shí)驗(yàn)運(yùn)行時(shí)進(jìn)行計(jì)劃
有時(shí)您必須在工作站上實(shí)時(shí)運(yùn)行實(shí)驗(yàn)干旧。模型運(yùn)行時(shí)，工作站必須阻塞妹蔽。原因?qū)⑹且恍┢惹械膶?shí)時(shí)要求椎眯，你不能拖延。
發(fā)生這種情況時(shí)胳岂，請(qǐng)記住您的項(xiàng)目并沒有阻止您的想法编整，只有您的工作站。
拉出文本編輯器或筆和紙（首選乳丰，這樣您就不會(huì)從實(shí)驗(yàn)運(yùn)行中偷走任何循環(huán)）掌测。利用這段時(shí)間深入思考您的項(xiàng)目。制作如下列表：
- 列出并優(yōu)先考慮您想要執(zhí)行的實(shí)驗(yàn)
- 列出問題产园，預(yù)期答案汞斧，所需的設(shè)置并影響每個(gè)實(shí)驗(yàn)的結(jié)果。
- 列出并優(yōu)先考慮您可以做出的假設(shè)和實(shí)驗(yàn)以對(duì)其提出異議什燕。
- 列出并優(yōu)先考慮您要編寫單元測(cè)試的代碼區(qū)域断箫。
- 列出您的問題的替代視角和框架。
要有創(chuàng)意秋冰，并考慮測(cè)試有關(guān)該項(xiàng)目的長(zhǎng)期信念。
我喜歡在一天結(jié)束時(shí)做我的創(chuàng)造性工作婶熬，讓我的潛意識(shí)在我睡覺時(shí)解決問題剑勾。我也喜歡在我的工作站上進(jìn)行實(shí)驗(yàn)過夜，讓它與我的潛意識(shí)一起思考赵颅。
摘要
在這篇文章中虽另，您已經(jīng)發(fā)現(xiàn)了一些方法來解決機(jī)器學(xué)習(xí)模型運(yùn)行期間的高效問題。
以下是您可以使用的關(guān)鍵策略的摘要：
- 考慮每個(gè)實(shí)驗(yàn)是否需要使用它將為您理解問題作為評(píng)估標(biāo)準(zhǔn)提供的貢獻(xiàn)饺谬。
- 設(shè)計(jì)實(shí)驗(yàn)運(yùn)行速度更快捂刺，并使用數(shù)據(jù)樣本來實(shí)現(xiàn)加速。
- 永遠(yuǎn)不要手動(dòng)調(diào)整超參數(shù)募寨，總是設(shè)計(jì)自動(dòng)化實(shí)驗(yàn)來回答模型校準(zhǔn)的問題族展。
- 在您的停工期間進(jìn)行實(shí)驗(yàn)，例如過夜拔鹰，午休和周末仪缸。
- 批量設(shè)計(jì)實(shí)驗(yàn)，以便您可以排隊(duì)并安排執(zhí)行列肢。
- 委派實(shí)驗(yàn)運(yùn)行來計(jì)算工作站以外的服務(wù)器以提高效率恰画。
- 如果您必須運(yùn)行阻止實(shí)時(shí)實(shí)驗(yàn)宾茂，請(qǐng)利用該時(shí)間深入思考您的問題，設(shè)計(jì)未來的實(shí)驗(yàn)并挑戰(zhàn)基本假設(shè)拴还。
