【心理學(xué)與AI】【目錄】概念學(xué)習(xí)Concept Learning PART 1

領(lǐng)域綜述

Concept learning. Wikipedia

Concept learning, also known as category learning, concept attainment, and concept formation, is defined by Bruner, Goodnow, & Austin (1967) as "the search for and listing of attributes that can be used to distinguish exemplars from non exemplars of various categories".

  • [1 Rule-based]
    按照描述性的規(guī)則去分類免钻,“有耳朵凉袱,綠色眼睛的是貓”
  • [2 Prototype]
    和一個(gè)類別的“原型”(代表這個(gè)類的一個(gè)模版歌馍,比如這個(gè)類所有樣例的均值)做對(duì)比,和哪個(gè)原型更像就分為哪一類
  • [3 Exemplar]
    和類別中的所有樣例做對(duì)比株旷,“原型”是一種不存在的我們提取出來的抽象表征据块,而樣例是實(shí)際見過的签孔,和哪個(gè)樣例更像就分為哪一類
    Exemplar based theories have become more empirically popular over the years with some evidence suggesting that human learners use exemplar based strategies only in early learning, forming prototypes and generalizations later in life.
  • [4 Multiple-prototype]
    多原型的分類模型异雁,一個(gè)大類里面可能有很多子類瑰艘,比如湯勺是鬼,可能有大的不銹鋼勺肤舞,也有小的木勺,比起統(tǒng)一成一個(gè)“中號(hào)的不銹鋼和木頭混合勺”均蜜,我們更可能保留“大不銹鋼勺”和“小木勺”兩個(gè)原型李剖。多個(gè)原型依此推廣。
  • [5 Explanation-based]
    可以看做是rule-based的一個(gè)發(fā)展版囤耳,就是這個(gè)描述是隨著你學(xué)過的樣例增多在動(dòng)態(tài)變化的篙顺。
  • [6 Bayesian]
    基于統(tǒng)計(jì)的模型,先有個(gè)先驗(yàn)的判斷充择,然后根據(jù)反饋調(diào)整概率分布德玫。簡單理解就是邊學(xué)邊調(diào)整。
    One model that incorporates the Bayesian theory of concept learning is the ACT-R model, developed by John R. Anderson
  • [7 Component display theory]
    學(xué)習(xí)的過程是由好幾個(gè)元素共同影響的椎麦,每個(gè)人可以根據(jù)自己的學(xué)習(xí)風(fēng)格和內(nèi)容調(diào)整這幾個(gè)元素的影響程度宰僧。
    The primary presentation forms include: rules, examples, recall, and practice. Secondary presentation forms include: prerequisites, objectives, helps, mnemonics, and feedback. A complete lesson includes a combination of primary and secondary presentation forms, but the most effective combination varies from learner to learner and also from concept to concept.

Shanks, D. R. (2001). Concept learning and representation: Models.

這篇綜述比較早而且出處不詳,可以參考里面的理論分類和量化描述观挎。

  • Prototype theories
    每個(gè)類有一個(gè)抽象的表征琴儿,分類時(shí)刺激更靠近哪個(gè)表征就被分為哪一類。刺激i被分到J類的概率是iJ類之間的相似度嘁捷,除以i和所有分類的相似度之和造成。每個(gè)類的相似度還要乘上對(duì)這個(gè)類別的選擇偏好。這個(gè)模型的量化擬合效果并不好雄嚣。

    prototype模型的概率公式

  • Exemplar models
    每個(gè)案例都分開存儲(chǔ)晒屎,對(duì)某一類的相似度,以和類內(nèi)所有example的相似度加權(quán)和表示现诀。Nosofsky’s Generalized Context Model (GCM)(Nosofsky 1992)
    這個(gè)模型表現(xiàn)出來非常高的擬合程度夷磕。
    Thomas (1998)做了一個(gè)分類實(shí)驗(yàn),發(fā)現(xiàn)被試能很好的保留example的細(xì)節(jié)信息仔沿,很多關(guān)于提取prototype的理論都沒法解釋這個(gè)現(xiàn)象坐桩。
    他們沒解決的問題是沒法重復(fù)個(gè)體差異(Nosofsky et al. 1994),沒法解釋base-rate effects (Nosofsky et al. 1992)


    examplar模型的概率公式
  • Decision-bound/Rule-based Models
    根據(jù)規(guī)則來分類封锉。實(shí)驗(yàn)支持绵跷,Thomas (1998) 這個(gè)實(shí)驗(yàn)好像是讓判斷missing dimension,被試報(bào)告的結(jié)果似乎可以支持他們形成了一個(gè)decision bound(沒有實(shí)驗(yàn)的具體描述)成福。但是這個(gè)理論的缺陷是碾局,幾乎很少有現(xiàn)實(shí)中的分類有著非常清晰的bound。

  • Selective Attention in Concept Learning
    這個(gè)不是一個(gè)單獨(dú)的理論奴艾,一般跟以上三個(gè)模型是互補(bǔ)的净当。就是說我們?cè)趯W(xué)習(xí)分類的時(shí)候,對(duì)每個(gè)examplar的注意分配并不是一樣的,比如Goldstone (1994)就發(fā)現(xiàn)如果下一個(gè)刺激是同類的像啼,注意就會(huì)分配的少俘闯,是不同類的就會(huì)多。
    比如對(duì)于examplar模型來說忽冻,因?yàn)橛羞x擇性的注意真朗,所以每個(gè)examplar所占的權(quán)重肯定是不一樣的,這個(gè)權(quán)重可能可以根據(jù)注意資源的分配來估計(jì)僧诚。

  • Hybird Models
    以上幾個(gè)模型的混合模型也有很多人研究遮婶,比如Erickson and Kruschke (1998)混合了examplar和Rule-based,并且描述了這兩個(gè)成分的權(quán)重湖笨,是如何隨著任務(wù)需求動(dòng)態(tài)變化的旗扑。他們還綜述了一下這種multi-system的其他研究,就是這篇文章有點(diǎn)老了赶么,可能可以順著找找新的肩豁。

  • Time Course of Classification
    這個(gè)研究角度更像是決策模型,就是關(guān)注我們?cè)谧龇诸愡x擇的過程是怎么樣的辫呻。這個(gè)理論對(duì)examplar的拓展主要有兩派(Lamberts, 2000),一派是認(rèn)為琼锋,一個(gè)需要分類的刺激出現(xiàn)之后放闺,腦子里面的examplar就開始競(jìng)爭(zhēng),如果被提取出來的examplar相似到足以做判斷了缕坎,就下結(jié)論怖侦;另一派是認(rèn)為,這個(gè)決策過程是在逐漸累積信息的(這個(gè)過程包括知覺信息逐漸變多谜叹,也包括對(duì)記憶中的examplar的回憶和修改)匾寝,哪個(gè)類的相似度和先超過閾值,就會(huì)判斷為這個(gè)類荷腊。

Goldstone, R. L., Kersten, A., & Carvalho, P. F. (2018). Categorization and concepts. Stevens' Handbook of Experimental Psychology and Cognitive Neuroscience, 3, 1-43.

書里的一章艳悔。對(duì)概念學(xué)習(xí)做了比較全面的綜述。

  • 哪個(gè)理論起主導(dǎo)作用女仰,也和學(xué)習(xí)材料的選取有關(guān)猜年。
    • rule-based : 材料是遵循簡單規(guī)則的 (Bruner et al., 1956).
    • prototypes : 材料是幾個(gè)prototypes的簡單變形 (Posner & Keele, 1968).
    • exemplar : 材料中有很多特例要記 (Nosofsky & Palmeri, 1998; Nosofsky, Palmeri, & McKinley, 1994).
    • theories : 材料中有些信息是被試已知的 (Murphy & Kaplan, 2000).

Cohen, H., & Lefebvre, C. (Eds.). (2017). Handbook of categorization in cognitive science (Second Edition). Elsevier.

Chapter 2 - To Cognize is to Categorize: Cognition is Categorization
閱讀筆記-Tang Wenwen, Zhu Bihan, Lin Beibei, Zhang Yu, Ye Yizhou

模型綜述

Hampton, J. (1993). Prototype models of concept representation.

一本書里的一章。Prototype模型疾忍,需要總結(jié)一下這個(gè)理論框架和對(duì)應(yīng)的行為學(xué)證據(jù)乔外。大概相當(dāng)于17頁的綜述。
閱讀筆記-Zhang Yu, Lin Beibei

Nosofsky, R. M. (2011). The generalized context model: An exemplar model of classification. Formal approaches in categorization, 18-39.

也是書里的一章一罩,經(jīng)典的examplar模型的改進(jìn)版杨幼。
閱讀筆記-Zhang Yu
閱讀筆記-Wang Zhiyi

模型爭(zhēng)論

Murphy, G. L. (2016). Is there an exemplar theory of concepts?. Psychonomic bulletin & review, 23(4), 1035-1042.

作者通過綜述說明,現(xiàn)有的現(xiàn)象只能支持,example是發(fā)揮作用的差购,但是并沒有任何一種學(xué)習(xí)只依賴examples四瘫。因?yàn)榧兇獾膃xample模型沒法解釋1)概念的層級(jí)性表征;2)基于特征的概念表征歹撒;3)概念的推導(dǎo)和歸納現(xiàn)象
閱讀筆記-Lin Beibei

Posner, M. I., & Keele, S. W. (1968). On the genesis of abstract ideas. Journal of experimental psychology, 77(3p1), 353.

最早的一篇支持prototype理論的實(shí)證研究莲组。
被試學(xué)習(xí)一些圖片的分類(每個(gè)類別都是由一個(gè)prototype圖片做一些簡單變形來的,但是學(xué)習(xí)序列里不會(huì)包含這張prototype圖片)暖夭,然后測(cè)試對(duì)沒見過的item進(jìn)行分類锹杈。
核心發(fā)現(xiàn)1 沒見過的item有兩種,一種是prototype圖片本身迈着,另一種是它的其他變形竭望。作者發(fā)現(xiàn)對(duì)prototype圖片本身的分類正確率會(huì)明顯比其他變形更高。作者認(rèn)為這說明原型的存在裕菠。
核心發(fā)現(xiàn)2 有一組被試學(xué)習(xí)階段的材料是對(duì)prototype的微小變形咬清,而另一組被試的材料變形更大。發(fā)現(xiàn)和大變形的組相比奴潘,微小變形的組在學(xué)習(xí)階段學(xué)的更好旧烧,但對(duì)測(cè)試中變異大的item分類不是很好。這說明examplar也是有存儲(chǔ)的画髓。

閱讀筆記-Zhu Bihan

Erickson, M. A., & Kruschke, J. K. (1998). Rules and exemplars in category learning. Journal of Experimental Psychology: General, 127(2), 107.

經(jīng)典的混合模型掘剪,混合了examplar和Rule-based,并且描述了這兩個(gè)成分的權(quán)重奈虾,是如何隨著任務(wù)需求動(dòng)態(tài)變化的夺谁。
ALCOVE模型認(rèn)為,對(duì)刺激的多個(gè)維度肉微,注意一開始是均勻分配的(感覺實(shí)際并不是匾鸥,但是初始化不一定重要),隨著學(xué)習(xí)的進(jìn)行碉纳,注意力會(huì)更多地分配到區(qū)分類別的維度上勿负。
而ATRUIM(本文提出的混合模型)假設(shè)rule也會(huì)產(chǎn)生影響。如果類別樣例可以根據(jù)某個(gè)特征進(jìn)行分類判斷村象,那么ATRUIM中的rules模塊比重就會(huì)較高笆环;而如果刺激的正確分類是通過整合樣例信息的,那么exemplar模塊的比重就會(huì)較高厚者。

閱讀筆記-第一部分-Tang Wenwen
閱讀筆記-第二部分-Ye Yizhou

Nosofsky, R. M., Sanders, C. A., Gerdom, A., Douglas, B. J., & McDaniel, M. A. (2017). On learning natural-science categories that violate the family-resemblance principle. Psychological science, 28(1), 104-114.

真實(shí)場(chǎng)景下躁劣,類內(nèi)非常相似的概念學(xué)習(xí)。和我們一般認(rèn)為的“抽取類內(nèi)共性和類間差異”的學(xué)習(xí)模型不太一樣库菲。
閱讀筆記-Wang Zhiyi

Lake, B. M., Salakhutdinov, R., & Tenenbaum, J. B. (2015). Human-level concept learning through probabilistic program induction. Science, 350(6266), 1332-1338.

復(fù)合的貝葉斯學(xué)習(xí)模型账忘,作者對(duì)學(xué)習(xí)模型產(chǎn)生的學(xué)習(xí)結(jié)果進(jìn)行了圖靈測(cè)試,結(jié)果表現(xiàn)出來與人的高相似性。

讓機(jī)器從一個(gè)手寫字符的示例中學(xué)習(xí)鳖擒,講筆畫拆解成parts再拆解成subpart溉浙。機(jī)器根據(jù)學(xué)習(xí)得到的結(jié)構(gòu)生成新的字符,人類沒法區(qū)分出來這是機(jī)器生成的還是人寫的蒋荚。

閱讀筆記-Tang Wenwen

Dubé, C. (2019). Central tendency representation and exemplar matching in visual short-term memory. Memory & cognition, 47(4), 589-602.

在視覺短時(shí)記憶中提出了一個(gè)新的模型戳稽,反駁了GCM,認(rèn)為在視覺短時(shí)記憶中應(yīng)該考慮prototype的作用期升。

閱讀筆記-Zhangyu

Vanpaemel, W. (2016). Prototypes, exemplars and the response scaling parameter: A Bayes factor perspective. Journal of Mathematical Psychology, 72, 183-190.

認(rèn)為貝葉斯因子的視角可以幫助解決原型模型和范例模型之間的爭(zhēng)議惊奇,重點(diǎn)看一下引言是怎么說原型模型和范例模型之間的爭(zhēng)議,以及引用的模型理論播赁。具體貝葉斯因子怎么分析看不懂可以不細(xì)看颂郎。
閱讀筆記-Lin Beibei

Storms, G., De Boeck, P., & Ruts, W. (2000). Prototype and exemplar-based information in natural language categories. Journal of Memory and Language, 42(1), 51-73.

原型模型和范例模型之間的對(duì)比,一百多的引量容为。
閱讀筆記-Tang Wenwen

Smith, J. D., & Minda, J. P. (2002). Distinguishing prototype-based and exemplar-based processes in dot-pattern category learning. Journal of Experimental Psychology: Learning, Memory, and Cognition, 28(4), 800.

原型模型和范例模型之間的對(duì)比乓序,也是有一百多的引量
閱讀筆記-Zhu Bihan

Zubek, J., & Kuncheva, L. (2018). Learning from Exemplars and Prototypes in Machine Learning and Psychology. arXiv preprint arXiv:1806.01130.

主要看一下理論部分。心理學(xué)和機(jī)器學(xué)習(xí)中原型和范例的比較坎背。
閱讀筆記-Wang Zhiyi

Ashby, F. G., & Valentin, V. V. (2017). Multiple systems of perceptual category learning: Theory and cognitive tests. In Handbook of categorization in cognitive science (pp. 157-188). Elsevier.

多系統(tǒng)理論替劈,這篇綜述了COVIS雙系統(tǒng)理論,核心思想是基于外顯+內(nèi)隱學(xué)習(xí)的雙通道理論得滤,分析了rule-based和信息整合理論的優(yōu)缺點(diǎn)抬纸,以及對(duì)應(yīng)的實(shí)驗(yàn)證據(jù)。
閱讀筆記-Ye Yizhou

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末耿戚,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子阿趁,更是在濱河造成了極大的恐慌膜蛔,老刑警劉巖,帶你破解...
    沈念sama閱讀 219,366評(píng)論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件脖阵,死亡現(xiàn)場(chǎng)離奇詭異皂股,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)命黔,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,521評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門呜呐,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人悍募,你說我怎么就攤上這事蘑辑。” “怎么了坠宴?”我有些...
    開封第一講書人閱讀 165,689評(píng)論 0 356
  • 文/不壞的土叔 我叫張陵洋魂,是天一觀的道長。 經(jīng)常有香客問我,道長副砍,這世上最難降的妖魔是什么衔肢? 我笑而不...
    開封第一講書人閱讀 58,925評(píng)論 1 295
  • 正文 為了忘掉前任,我火速辦了婚禮豁翎,結(jié)果婚禮上角骤,老公的妹妹穿的比我還像新娘。我一直安慰自己心剥,他們只是感情好邦尊,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,942評(píng)論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著刘陶,像睡著了一般胳赌。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上匙隔,一...
    開封第一講書人閱讀 51,727評(píng)論 1 305
  • 那天疑苫,我揣著相機(jī)與錄音,去河邊找鬼纷责。 笑死捍掺,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的再膳。 我是一名探鬼主播挺勿,決...
    沈念sama閱讀 40,447評(píng)論 3 420
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼喂柒!你這毒婦竟也來了不瓶?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,349評(píng)論 0 276
  • 序言:老撾萬榮一對(duì)情侶失蹤灾杰,失蹤者是張志新(化名)和其女友劉穎蚊丐,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體艳吠,經(jīng)...
    沈念sama閱讀 45,820評(píng)論 1 317
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡麦备,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,990評(píng)論 3 337
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了昭娩。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片凛篙。...
    茶點(diǎn)故事閱讀 40,127評(píng)論 1 351
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖栏渺,靈堂內(nèi)的尸體忽然破棺而出呛梆,到底是詐尸還是另有隱情,我是刑警寧澤迈嘹,帶...
    沈念sama閱讀 35,812評(píng)論 5 346
  • 正文 年R本政府宣布削彬,位于F島的核電站全庸,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏融痛。R本人自食惡果不足惜壶笼,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,471評(píng)論 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望雁刷。 院中可真熱鬧覆劈,春花似錦、人聲如沸沛励。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,017評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽目派。三九已至坤候,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間企蹭,已是汗流浹背白筹。 一陣腳步聲響...
    開封第一講書人閱讀 33,142評(píng)論 1 272
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留谅摄,地道東北人徒河。 一個(gè)月前我還...
    沈念sama閱讀 48,388評(píng)論 3 373
  • 正文 我出身青樓,卻偏偏與公主長得像送漠,于是被迫代替她去往敵國和親顽照。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,066評(píng)論 2 355