之前推薦過(guò)的《The runaway species》最近出了中文版骡尽,翻譯的書(shū)名“飛奔的物種”塑猖,關(guān)于這本書(shū)竹祷,之前寫(xiě)過(guò)讀書(shū)筆記(創(chuàng)造力不是無(wú)中生有-讀《The runaway Species》,今天之所以再次提到這本書(shū)羊苟,是想借著這本書(shū)說(shuō)說(shuō)該如何將書(shū)讀厚塑陵,要想做到學(xué)以致用,就要能將書(shū)中的道理和自己的生活結(jié)合起來(lái)践险。飛奔的物種講的是創(chuàng)新的3條法則-扭曲猿妈,打破和融合,舉的例子多來(lái)自于藝術(shù)和商業(yè)這倆個(gè)領(lǐng)域巍虫。但不管什么行業(yè)彭则,都少不了創(chuàng)新,既然有了創(chuàng)新占遥,就需要有一套理論來(lái)指導(dǎo)創(chuàng)新俯抖。那將這本書(shū)讀厚的方式就是去找些例子,用書(shū)中的認(rèn)知框架對(duì)其加以分類及解釋瓦胎。
作為一個(gè)吃貨芬萍,最容易想到的領(lǐng)域是食品行業(yè)尤揣,看看有哪些新近流行起來(lái)的零食,思考它們?cè)摎w類到那種創(chuàng)新的法則中柬祠。先看融合北戏,可以舉的例子是棗核桃,椰子咖啡漫蛔,夾心海苔等嗜愈,其特點(diǎn)是將倆種食材組合起來(lái),從而為消費(fèi)者創(chuàng)造獨(dú)特的體驗(yàn)莽龟,從而獲得1+1>2的效果蠕嫁;扭曲的例子包括小麻花,果脯毯盈,薯片等剃毒,其特點(diǎn)是將之前成熟的食品變換一種屬性,讓其品嘗起來(lái)和之前有所不同搂赋;而打破的例子包括方便面赘阀,自熱火鍋等,其特點(diǎn)是讓之前不可能的體驗(yàn)變得觸手可得厂镇,減少了食物所需的限制纤壁,從而取得了成功。只有舉出了獨(dú)屬于個(gè)人體驗(yàn)的例子捺信,再來(lái)讀書(shū)中的句子酌媒,才能加深理解,下面是書(shū)中對(duì)著三個(gè)關(guān)鍵詞的描述:” 扭曲,原版會(huì)被調(diào)整或扭曲到變形迄靠。打破,指的是一個(gè)整體被拆開(kāi)秒咨。融合,兩個(gè)或者更多的素材會(huì)結(jié)合在一起≌浦浚“
上面的例子雨席,只是用來(lái)說(shuō)明我們?nèi)绾巫鍪潞笾T葛亮,僅僅對(duì)已有的成功范式進(jìn)行解釋吠式,不足以讓我們成為具有創(chuàng)造力的人陡厘,僅僅能讓我們成為創(chuàng)新評(píng)論員√卣迹《飛奔的物種》還提出了四種提升創(chuàng)造力的套路糙置,想將書(shū)讀厚,接下來(lái)的任務(wù)就是在自己熟悉的專業(yè)領(lǐng)域內(nèi)是目,看看大牛們的創(chuàng)意究竟屬于哪個(gè)套路谤饭。書(shū)中提到的提升創(chuàng)造力的方式,如同張三豐教的太極劍意,要先要看清楚招式揉抵,再忘掉招式亡容。因此這里舉出的例子,也包括原書(shū)中的例子冤今,只是供你參考的闺兢。下面舉的例子,都屬于近些年深度學(xué)習(xí)領(lǐng)域突破性的創(chuàng)新事件辟汰。
先看提升創(chuàng)意的第一招-“改造傳統(tǒng)”列敲,這說(shuō)的是替換傳統(tǒng)解法中的一部分。例如將激活函數(shù)從softmax替換為Relu帖汞,在深度學(xué)習(xí)的進(jìn)化史就屬于關(guān)鍵的一步;再比如引入1×1的卷積凑术,從而完成了傳統(tǒng)CNN中卷積不能做的不同通道同一位置的信息融合翩蘸。
第二招是擴(kuò)展可能性,這里對(duì)應(yīng)的例子是殘差網(wǎng)絡(luò)淮逊,通過(guò)增加從網(wǎng)絡(luò)高層直接連接到網(wǎng)絡(luò)底層的連接項(xiàng)催首,讓梯度的傳播有更多的選項(xiàng);擴(kuò)展不一定意味著只是做加法泄鹏,dropout是做減法郎任,隨機(jī)的減去一些連接的節(jié)點(diǎn),但這也屬于擴(kuò)展這個(gè)套路下备籽,其本質(zhì)是對(duì)通向解決方案的可能的選項(xiàng)/路徑進(jìn)行增刪舶治,對(duì)比起來(lái),改造傳統(tǒng)是將原來(lái)的碎石路變?yōu)榘赜吐贰?/p>
第三招是從原點(diǎn)發(fā)散车猬,就近取材霉猛,對(duì)應(yīng)的倆個(gè)例子分別是遷移學(xué)習(xí)和數(shù)據(jù)增強(qiáng),前者是用已經(jīng)訓(xùn)練好的權(quán)重作為網(wǎng)絡(luò)的初始權(quán)重珠闰,選擇一個(gè)合適的原點(diǎn)惜浅,再?gòu)倪@里開(kāi)始;后者是將已有的數(shù)據(jù)作為原點(diǎn)伏嗜,對(duì)其進(jìn)行扭曲變形坛悉,從而創(chuàng)造出更多的訓(xùn)練數(shù)據(jù),倆個(gè)例子的共同點(diǎn)是從已有的資源出發(fā)進(jìn)行創(chuàng)新承绸。
而創(chuàng)新的終極招數(shù)則是容忍失敗裸影,在不確定中創(chuàng)造。對(duì)應(yīng)的例子是隨機(jī)梯度下降八酒,通過(guò)在優(yōu)化過(guò)程中引入隨機(jī)性空民,來(lái)避免陷入局部最優(yōu)。要做到能不被失敗打倒,要具有對(duì)大眾說(shuō)不的勇氣界轩;但僅僅勇氣不能讓你從失敗中重新站起來(lái)画饥,你還需要延遲滿足的能力,還需要在意大眾的接受能力浊猾,從而一點(diǎn)點(diǎn)的改變抖甘,讓你的下一個(gè)創(chuàng)新能夠被大眾接受。而深度學(xué)習(xí)中也有對(duì)應(yīng)的機(jī)制葫慎,分別是mini-batch和正則化(normalization)衔彻,前者是一次只拿少量的數(shù)據(jù)去做訓(xùn)練,由于數(shù)據(jù)少偷办,隨機(jī)性就高艰额,從而天生就是在試錯(cuò);很多人創(chuàng)新想一步到位椒涯,無(wú)法延遲滿足柄沮,卻不知唯有小步快走,才能盡可能的避免選錯(cuò)點(diǎn)錯(cuò)科技樹(shù)废岂;而創(chuàng)新者的另一個(gè)常見(jiàn)問(wèn)題是在某一方面做得太極致祖搓,卻不考慮大眾所需是是一個(gè)均衡的產(chǎn)品,正則化是將神經(jīng)網(wǎng)絡(luò)在每層的特征轉(zhuǎn)換為同樣的分布湖苞,從而以便之后的訓(xùn)練中能大scale的output特征產(chǎn)生更大的error拯欧,或者將某些小的特征直接變?yōu)闊o(wú)法優(yōu)化的NaN,從而使得網(wǎng)絡(luò)缺少了進(jìn)化的可能性财骨。
總結(jié):關(guān)于創(chuàng)新镐作,《飛奔的物種》這本書(shū)給出了近倆百個(gè)例子,讀這本書(shū)蚓再,或者說(shuō)讀任何的書(shū)滑肉,都需要去結(jié)合實(shí)際生活,去給書(shū)中的思維框架找到更多例子摘仅。下面摘錄書(shū)中的6條金句靶庙,看看讀者能從這些句子中想到那些對(duì)應(yīng)案例來(lái),歡迎在留言中列出娃属。
1 相比可預(yù)測(cè)的獎(jiǎng)勵(lì),隨機(jī)的六荒、不可預(yù)測(cè)的獎(jiǎng)勵(lì)會(huì)使大腦的活動(dòng)活躍得多。也就是說(shuō),只有意外之事才能使大腦感到滿足矾端。
2 大腦一方面試著用預(yù)測(cè)世界的方式來(lái)節(jié)省能量;另一方面,它又沉浸在尋求意外之事中不能自拔掏击。我們既不想生活在無(wú)限循環(huán)之中,也不想一直生活在意外之中。這是一種利用已知和探索未知之間的平衡秩铆。
3 為了舒適,人們需要保證一定水平的熟悉度,我們希望世界是可預(yù)測(cè)的,但不要太容易預(yù)測(cè):我們生活在創(chuàng)新與熟悉的“拉鋸”之中砚亭。
4 腦海中沒(méi)有任何內(nèi)在的模型,也沒(méi)有任何將以前的知識(shí)組合的新點(diǎn)子灯变。當(dāng)她面對(duì)白紙時(shí),大腦中什么也沒(méi)有,一片空白。她需要過(guò)去才能創(chuàng)造未來(lái)捅膘。
5人們對(duì)任何創(chuàng)新的接受程度,取決于它之前發(fā)生的事,以及它與這個(gè)譜系的距離添祸。
6 增加選項(xiàng)只是創(chuàng)新的一半,而丟棄其中大部分選項(xiàng),是創(chuàng)新的另一半.一個(gè)危險(xiǎn)的人只相信一種理論,并為此奮戰(zhàn)到死⊙罢蹋”更強(qiáng)有力的方式,克里克說(shuō)道,是有很多想法,然后再排除大部分想法刃泌。
PS, 之前針對(duì)這本書(shū)和創(chuàng)新署尤,還寫(xiě)過(guò)一段話耙替,在文末列出:
現(xiàn)在不管做什么都要求創(chuàng)新,但創(chuàng)新永遠(yuǎn)是手段而不是目的曹体,為了突出創(chuàng)新性而不顧當(dāng)前情況俗扇,不實(shí)事求是,這是嘩眾取寵東施效顰箕别。創(chuàng)新的三原則之中狐援,打破的基礎(chǔ)是吃透前人的經(jīng)驗(yàn),否則你只是修改之前方案的皮毛而不是本質(zhì)究孕;扭曲的基礎(chǔ)是你既要知道當(dāng)前面臨的沖擊,又要清楚要借鑒的模型和當(dāng)下的情況中有那些是決不能更改的爹凹;而最不可或缺的是融合厨诸,不是用新的取代舊的,而是借鑒其他領(lǐng)域的找到路的邏輯禾酱,并不是照搬走過(guò)的路微酬,最終目的是以更貼近物理本源的視角看待及處理問(wèn)題,減少認(rèn)識(shí)干擾颤陶,從第一性原理出發(fā)找到解決方案颗管。
創(chuàng)造性的思維不止是書(shū)中提到的改造,擴(kuò)展滓走,就近與冒險(xiǎn)這四個(gè)維度垦江,還要想清楚自己能做什么,想達(dá)到什么目標(biāo)搅方。書(shū)中研究的是成功的創(chuàng)新比吭,卻沒(méi)有討論為何有遠(yuǎn)比成功案例多的多的失敗的創(chuàng)新,我想主要原因是失敗的創(chuàng)新沒(méi)有實(shí)事求是姨涡。書(shū)中第四部分講如何培養(yǎng)創(chuàng)新型組織衩藤,需要的不止是容忍失敗,擴(kuò)展邊界涛漂,增加可選項(xiàng)赏表,鼓勵(lì)想象力,增加工作的意義,更重要的是要避免浮在表面的“偽創(chuàng)新”瓢剿,要腳踏實(shí)地逢慌,扎扎實(shí)實(shí)。