領(lǐng)域綜述
Concept learning. Wikipedia
Concept learning, also known as category learning, concept attainment, and concept formation, is defined by Bruner, Goodnow, & Austin (1967) as "the search for and listing of attributes that can be used to distinguish exemplars from non exemplars of various categories".
- [1 Rule-based]
按照描述性的規(guī)則去分類免钻,“有耳朵凉袱,綠色眼睛的是貓” - [2 Prototype]
和一個(gè)類別的“原型”(代表這個(gè)類的一個(gè)模版歌馍,比如這個(gè)類所有樣例的均值)做對(duì)比,和哪個(gè)原型更像就分為哪一類 - [3 Exemplar]
和類別中的所有樣例做對(duì)比株旷,“原型”是一種不存在的我們提取出來的抽象表征据块,而樣例是實(shí)際見過的签孔,和哪個(gè)樣例更像就分為哪一類
Exemplar based theories have become more empirically popular over the years with some evidence suggesting that human learners use exemplar based strategies only in early learning, forming prototypes and generalizations later in life. - [4 Multiple-prototype]
多原型的分類模型异雁,一個(gè)大類里面可能有很多子類瑰艘,比如湯勺是鬼,可能有大的不銹鋼勺肤舞,也有小的木勺,比起統(tǒng)一成一個(gè)“中號(hào)的不銹鋼和木頭混合勺”均蜜,我們更可能保留“大不銹鋼勺”和“小木勺”兩個(gè)原型李剖。多個(gè)原型依此推廣。 - [5 Explanation-based]
可以看做是rule-based的一個(gè)發(fā)展版囤耳,就是這個(gè)描述是隨著你學(xué)過的樣例增多在動(dòng)態(tài)變化的篙顺。 - [6 Bayesian]
基于統(tǒng)計(jì)的模型,先有個(gè)先驗(yàn)的判斷充择,然后根據(jù)反饋調(diào)整概率分布德玫。簡單理解就是邊學(xué)邊調(diào)整。
One model that incorporates the Bayesian theory of concept learning is the ACT-R model, developed by John R. Anderson - [7 Component display theory]
學(xué)習(xí)的過程是由好幾個(gè)元素共同影響的椎麦,每個(gè)人可以根據(jù)自己的學(xué)習(xí)風(fēng)格和內(nèi)容調(diào)整這幾個(gè)元素的影響程度宰僧。
The primary presentation forms include: rules, examples, recall, and practice. Secondary presentation forms include: prerequisites, objectives, helps, mnemonics, and feedback. A complete lesson includes a combination of primary and secondary presentation forms, but the most effective combination varies from learner to learner and also from concept to concept.
Shanks, D. R. (2001). Concept learning and representation: Models.
這篇綜述比較早而且出處不詳,可以參考里面的理論分類和量化描述观挎。
-
Prototype theories
每個(gè)類有一個(gè)抽象的表征琴儿,分類時(shí)刺激更靠近哪個(gè)表征就被分為哪一類。刺激被分到
類的概率是
和
類之間的相似度嘁捷,除以
和所有分類的相似度之和造成。每個(gè)類的相似度還要乘上對(duì)這個(gè)類別的選擇偏好。這個(gè)模型的量化擬合效果并不好雄嚣。
prototype模型的概率公式 -
Exemplar models
每個(gè)案例都分開存儲(chǔ)晒屎,對(duì)某一類的相似度,以和類內(nèi)所有example的相似度加權(quán)和表示现诀。Nosofsky’s Generalized Context Model (GCM)(Nosofsky 1992)
這個(gè)模型表現(xiàn)出來非常高的擬合程度夷磕。
Thomas (1998)做了一個(gè)分類實(shí)驗(yàn),發(fā)現(xiàn)被試能很好的保留example的細(xì)節(jié)信息仔沿,很多關(guān)于提取prototype的理論都沒法解釋這個(gè)現(xiàn)象坐桩。
他們沒解決的問題是沒法重復(fù)個(gè)體差異(Nosofsky et al. 1994),沒法解釋base-rate effects (Nosofsky et al. 1992)
examplar模型的概率公式 Decision-bound/Rule-based Models
根據(jù)規(guī)則來分類封锉。實(shí)驗(yàn)支持绵跷,Thomas (1998) 這個(gè)實(shí)驗(yàn)好像是讓判斷missing dimension,被試報(bào)告的結(jié)果似乎可以支持他們形成了一個(gè)decision bound(沒有實(shí)驗(yàn)的具體描述)成福。但是這個(gè)理論的缺陷是碾局,幾乎很少有現(xiàn)實(shí)中的分類有著非常清晰的bound。Selective Attention in Concept Learning
這個(gè)不是一個(gè)單獨(dú)的理論奴艾,一般跟以上三個(gè)模型是互補(bǔ)的净当。就是說我們?cè)趯W(xué)習(xí)分類的時(shí)候,對(duì)每個(gè)examplar的注意分配并不是一樣的,比如Goldstone (1994)就發(fā)現(xiàn)如果下一個(gè)刺激是同類的像啼,注意就會(huì)分配的少俘闯,是不同類的就會(huì)多。
比如對(duì)于examplar模型來說忽冻,因?yàn)橛羞x擇性的注意真朗,所以每個(gè)examplar所占的權(quán)重肯定是不一樣的,這個(gè)權(quán)重可能可以根據(jù)注意資源的分配來估計(jì)僧诚。Hybird Models
以上幾個(gè)模型的混合模型也有很多人研究遮婶,比如Erickson and Kruschke (1998)混合了examplar和Rule-based,并且描述了這兩個(gè)成分的權(quán)重湖笨,是如何隨著任務(wù)需求動(dòng)態(tài)變化的旗扑。他們還綜述了一下這種multi-system的其他研究,就是這篇文章有點(diǎn)老了赶么,可能可以順著找找新的肩豁。Time Course of Classification
這個(gè)研究角度更像是決策模型,就是關(guān)注我們?cè)谧龇诸愡x擇的過程是怎么樣的辫呻。這個(gè)理論對(duì)examplar的拓展主要有兩派(Lamberts, 2000),一派是認(rèn)為琼锋,一個(gè)需要分類的刺激出現(xiàn)之后放闺,腦子里面的examplar就開始競(jìng)爭(zhēng),如果被提取出來的examplar相似到足以做判斷了缕坎,就下結(jié)論怖侦;另一派是認(rèn)為,這個(gè)決策過程是在逐漸累積信息的(這個(gè)過程包括知覺信息逐漸變多谜叹,也包括對(duì)記憶中的examplar的回憶和修改)匾寝,哪個(gè)類的相似度和先超過閾值,就會(huì)判斷為這個(gè)類荷腊。
Goldstone, R. L., Kersten, A., & Carvalho, P. F. (2018). Categorization and concepts. Stevens' Handbook of Experimental Psychology and Cognitive Neuroscience, 3, 1-43.
書里的一章艳悔。對(duì)概念學(xué)習(xí)做了比較全面的綜述。
- 哪個(gè)理論起主導(dǎo)作用女仰,也和學(xué)習(xí)材料的選取有關(guān)猜年。
- rule-based : 材料是遵循簡單規(guī)則的 (Bruner et al., 1956).
- prototypes : 材料是幾個(gè)prototypes的簡單變形 (Posner & Keele, 1968).
- exemplar : 材料中有很多特例要記 (Nosofsky & Palmeri, 1998; Nosofsky, Palmeri, & McKinley, 1994).
- theories : 材料中有些信息是被試已知的 (Murphy & Kaplan, 2000).
Cohen, H., & Lefebvre, C. (Eds.). (2017). Handbook of categorization in cognitive science (Second Edition). Elsevier.
Chapter 2 - To Cognize is to Categorize: Cognition is Categorization
閱讀筆記-Tang Wenwen, Zhu Bihan, Lin Beibei, Zhang Yu, Ye Yizhou
模型綜述
Hampton, J. (1993). Prototype models of concept representation.
一本書里的一章。Prototype模型疾忍,需要總結(jié)一下這個(gè)理論框架和對(duì)應(yīng)的行為學(xué)證據(jù)乔外。大概相當(dāng)于17頁的綜述。
閱讀筆記-Zhang Yu, Lin Beibei
Nosofsky, R. M. (2011). The generalized context model: An exemplar model of classification. Formal approaches in categorization, 18-39.
也是書里的一章一罩,經(jīng)典的examplar模型的改進(jìn)版杨幼。
閱讀筆記-Zhang Yu
閱讀筆記-Wang Zhiyi
模型爭(zhēng)論
Murphy, G. L. (2016). Is there an exemplar theory of concepts?. Psychonomic bulletin & review, 23(4), 1035-1042.
作者通過綜述說明,現(xiàn)有的現(xiàn)象只能支持,example是發(fā)揮作用的差购,但是并沒有任何一種學(xué)習(xí)只依賴examples四瘫。因?yàn)榧兇獾膃xample模型沒法解釋1)概念的層級(jí)性表征;2)基于特征的概念表征歹撒;3)概念的推導(dǎo)和歸納現(xiàn)象
閱讀筆記-Lin Beibei
Posner, M. I., & Keele, S. W. (1968). On the genesis of abstract ideas. Journal of experimental psychology, 77(3p1), 353.
最早的一篇支持prototype理論的實(shí)證研究莲组。
被試學(xué)習(xí)一些圖片的分類(每個(gè)類別都是由一個(gè)prototype圖片做一些簡單變形來的,但是學(xué)習(xí)序列里不會(huì)包含這張prototype圖片)暖夭,然后測(cè)試對(duì)沒見過的item進(jìn)行分類锹杈。
核心發(fā)現(xiàn)1 沒見過的item有兩種,一種是prototype圖片本身迈着,另一種是它的其他變形竭望。作者發(fā)現(xiàn)對(duì)prototype圖片本身的分類正確率會(huì)明顯比其他變形更高。作者認(rèn)為這說明原型的存在裕菠。
核心發(fā)現(xiàn)2 有一組被試學(xué)習(xí)階段的材料是對(duì)prototype的微小變形咬清,而另一組被試的材料變形更大。發(fā)現(xiàn)和大變形的組相比奴潘,微小變形的組在學(xué)習(xí)階段學(xué)的更好旧烧,但對(duì)測(cè)試中變異大的item分類不是很好。這說明examplar也是有存儲(chǔ)的画髓。
Erickson, M. A., & Kruschke, J. K. (1998). Rules and exemplars in category learning. Journal of Experimental Psychology: General, 127(2), 107.
經(jīng)典的混合模型掘剪,混合了examplar和Rule-based,并且描述了這兩個(gè)成分的權(quán)重奈虾,是如何隨著任務(wù)需求動(dòng)態(tài)變化的夺谁。
ALCOVE模型認(rèn)為,對(duì)刺激的多個(gè)維度肉微,注意一開始是均勻分配的(感覺實(shí)際并不是匾鸥,但是初始化不一定重要),隨著學(xué)習(xí)的進(jìn)行碉纳,注意力會(huì)更多地分配到區(qū)分類別的維度上勿负。
而ATRUIM(本文提出的混合模型)假設(shè)rule也會(huì)產(chǎn)生影響。如果類別樣例可以根據(jù)某個(gè)特征進(jìn)行分類判斷村象,那么ATRUIM中的rules模塊比重就會(huì)較高笆环;而如果刺激的正確分類是通過整合樣例信息的,那么exemplar模塊的比重就會(huì)較高厚者。
閱讀筆記-第一部分-Tang Wenwen
閱讀筆記-第二部分-Ye Yizhou
Nosofsky, R. M., Sanders, C. A., Gerdom, A., Douglas, B. J., & McDaniel, M. A. (2017). On learning natural-science categories that violate the family-resemblance principle. Psychological science, 28(1), 104-114.
真實(shí)場(chǎng)景下躁劣,類內(nèi)非常相似的概念學(xué)習(xí)。和我們一般認(rèn)為的“抽取類內(nèi)共性和類間差異”的學(xué)習(xí)模型不太一樣库菲。
閱讀筆記-Wang Zhiyi
Lake, B. M., Salakhutdinov, R., & Tenenbaum, J. B. (2015). Human-level concept learning through probabilistic program induction. Science, 350(6266), 1332-1338.
復(fù)合的貝葉斯學(xué)習(xí)模型账忘,作者對(duì)學(xué)習(xí)模型產(chǎn)生的學(xué)習(xí)結(jié)果進(jìn)行了圖靈測(cè)試,結(jié)果表現(xiàn)出來與人的高相似性。
讓機(jī)器從一個(gè)手寫字符的示例中學(xué)習(xí)鳖擒,講筆畫拆解成parts再拆解成subpart溉浙。機(jī)器根據(jù)學(xué)習(xí)得到的結(jié)構(gòu)生成新的字符,人類沒法區(qū)分出來這是機(jī)器生成的還是人寫的蒋荚。
Dubé, C. (2019). Central tendency representation and exemplar matching in visual short-term memory. Memory & cognition, 47(4), 589-602.
在視覺短時(shí)記憶中提出了一個(gè)新的模型戳稽,反駁了GCM,認(rèn)為在視覺短時(shí)記憶中應(yīng)該考慮prototype的作用期升。
Vanpaemel, W. (2016). Prototypes, exemplars and the response scaling parameter: A Bayes factor perspective. Journal of Mathematical Psychology, 72, 183-190.
認(rèn)為貝葉斯因子的視角可以幫助解決原型模型和范例模型之間的爭(zhēng)議惊奇,重點(diǎn)看一下引言是怎么說原型模型和范例模型之間的爭(zhēng)議,以及引用的模型理論播赁。具體貝葉斯因子怎么分析看不懂可以不細(xì)看颂郎。
閱讀筆記-Lin Beibei
Storms, G., De Boeck, P., & Ruts, W. (2000). Prototype and exemplar-based information in natural language categories. Journal of Memory and Language, 42(1), 51-73.
原型模型和范例模型之間的對(duì)比,一百多的引量容为。
閱讀筆記-Tang Wenwen
Smith, J. D., & Minda, J. P. (2002). Distinguishing prototype-based and exemplar-based processes in dot-pattern category learning. Journal of Experimental Psychology: Learning, Memory, and Cognition, 28(4), 800.
原型模型和范例模型之間的對(duì)比乓序,也是有一百多的引量
閱讀筆記-Zhu Bihan
Zubek, J., & Kuncheva, L. (2018). Learning from Exemplars and Prototypes in Machine Learning and Psychology. arXiv preprint arXiv:1806.01130.
主要看一下理論部分。心理學(xué)和機(jī)器學(xué)習(xí)中原型和范例的比較坎背。
閱讀筆記-Wang Zhiyi
Ashby, F. G., & Valentin, V. V. (2017). Multiple systems of perceptual category learning: Theory and cognitive tests. In Handbook of categorization in cognitive science (pp. 157-188). Elsevier.
多系統(tǒng)理論替劈,這篇綜述了COVIS雙系統(tǒng)理論,核心思想是基于外顯+內(nèi)隱學(xué)習(xí)的雙通道理論得滤,分析了rule-based和信息整合理論的優(yōu)缺點(diǎn)抬纸,以及對(duì)應(yīng)的實(shí)驗(yàn)證據(jù)。
閱讀筆記-Ye Yizhou