Python中的TfidfVectorizer解析

vectorizer = CountVectorizer() #構(gòu)建一個計算詞頻(TF)的玩意兒琳钉,當(dāng)然這里面不足是可以做這些
transformer = TfidfTransformer() #構(gòu)建一個計算TF-IDF的玩意兒
TfidfTransformer + CountVectorizer = TfidfVectorizer
TF-IDF相關(guān)資料http://www.ruanyifeng.com/blog/2013/03/tf-idf.html

from sklearn.feature_extraction.text import TfidfVectorizer
vectorizer = TfidfVectorizer(stop_words='english', ngram_range=(1, 1),
                analyzer='word', max_df=.57, binary=False,
                token_pattern=r"\w+",sublinear_tf=False)

stop_words:string {'english'}, list, or None(default)如果未english达址,用于英語內(nèi)建的停用詞列表车伞,如果未list框仔,該列表被假定為包含停用詞碰镜,列表中的所有詞都將從令牌中刪除, 如果None,不使用停用詞琼懊。max_df可以被設(shè)置為范圍[0.7, 1.0)的值,基于內(nèi)部預(yù)料詞頻來自動檢測和過濾停用詞爬早。
ngram_range(min,max):是指將text分成min哼丈,min+1,min+2,.........max 個不同的詞組筛严。比如'Python is useful'中ngram_range(1,3)之后可得到'Python' 'is' 'useful' 'Python is' 'is useful' 和'Python is useful'如果是ngram_range (1,1) 則只能得到單個單詞'Python' 'is'和'useful'
analyzer:string醉旦,{'word', 'char'} or callable定義特征為詞(word)或n-gram字符
max_df: float in range [0.0, 1.0] or int, optional, 1.0 by default當(dāng)構(gòu)建詞匯表時,嚴(yán)格忽略高于給出閾值的文檔頻率的詞條,語料指定的停用詞车胡。如果是浮點值檬输,該參數(shù)代表文檔的比例,整型絕對計數(shù)值匈棘,如果詞匯表不為None丧慈,此參數(shù)被忽略。
binary:boolean主卫, False by default
如果為True逃默,所有非零計數(shù)被設(shè)置為1,這對于離散概率模型是有用的队秩,建立二元事件模型笑旺,而不是整型計數(shù)。
token_pattern: 正則表達(dá)式顯示了”token“的構(gòu)成馍资,僅當(dāng)analyzer == ‘word’時才被使用。
sublinear_tf:boolean关噪, optional應(yīng)用線性縮放TF鸟蟹,例如,使用1+log(tf)覆蓋tf

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末使兔,一起剝皮案震驚了整個濱河市建钥,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌虐沥,老刑警劉巖熊经,帶你破解...
    沈念sama閱讀 216,544評論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異欲险,居然都是意外死亡镐依,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,430評論 3 392
  • 文/潘曉璐 我一進(jìn)店門天试,熙熙樓的掌柜王于貴愁眉苦臉地迎上來槐壳,“玉大人,你說我怎么就攤上這事喜每∥裉疲” “怎么了?”我有些...
    開封第一講書人閱讀 162,764評論 0 353
  • 文/不壞的土叔 我叫張陵带兜,是天一觀的道長枫笛。 經(jīng)常有香客問我,道長刚照,這世上最難降的妖魔是什么刑巧? 我笑而不...
    開封第一講書人閱讀 58,193評論 1 292
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上海诲,老公的妹妹穿的比我還像新娘繁莹。我一直安慰自己,他們只是感情好特幔,可當(dāng)我...
    茶點故事閱讀 67,216評論 6 388
  • 文/花漫 我一把揭開白布咨演。 她就那樣靜靜地躺著,像睡著了一般蚯斯。 火紅的嫁衣襯著肌膚如雪薄风。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,182評論 1 299
  • 那天拍嵌,我揣著相機(jī)與錄音遭赂,去河邊找鬼。 笑死横辆,一個胖子當(dāng)著我的面吹牛撇他,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播狈蚤,決...
    沈念sama閱讀 40,063評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼困肩,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了脆侮?” 一聲冷哼從身側(cè)響起锌畸,我...
    開封第一講書人閱讀 38,917評論 0 274
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎靖避,沒想到半個月后潭枣,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,329評論 1 310
  • 正文 獨居荒郊野嶺守林人離奇死亡幻捏,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,543評論 2 332
  • 正文 我和宋清朗相戀三年盆犁,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片粘咖。...
    茶點故事閱讀 39,722評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡蚣抗,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出瓮下,到底是詐尸還是另有隱情翰铡,我是刑警寧澤,帶...
    沈念sama閱讀 35,425評論 5 343
  • 正文 年R本政府宣布讽坏,位于F島的核電站锭魔,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏路呜。R本人自食惡果不足惜迷捧,卻給世界環(huán)境...
    茶點故事閱讀 41,019評論 3 326
  • 文/蒙蒙 一织咧、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧漠秋,春花似錦笙蒙、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,671評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至搂抒,卻和暖如春艇搀,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背求晶。 一陣腳步聲響...
    開封第一講書人閱讀 32,825評論 1 269
  • 我被黑心中介騙來泰國打工焰雕, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人芳杏。 一個月前我還...
    沈念sama閱讀 47,729評論 2 368
  • 正文 我出身青樓矩屁,卻偏偏與公主長得像,于是被迫代替她去往敵國和親爵赵。 傳聞我的和親對象是個殘疾皇子档插,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,614評論 2 353