全唐詩(shī)清洗語(yǔ)料(簡(jiǎn)體剧蚣、繁體)

2018年1月28日

Emerson_G

《全唐詩(shī)》是唐代詩(shī)歌全面的收錄提前,全書包括四萬(wàn)多首詩(shī)詞吗货,兩千多位作者,非常好地覆蓋了唐朝知名的詩(shī)歌狈网。

這里整理了一份全唐詩(shī)的結(jié)構(gòu)化的語(yǔ)料宙搬,包括簡(jiǎn)體版本和繁體版本的一一對(duì)照。

全唐詩(shī)總計(jì)900卷拓哺,每首詩(shī)的結(jié)構(gòu)包括標(biāo)題勇垛、作者、詩(shī)三部分士鸥。其中“卷七百九十五”和“卷七百九十六”是輯錄的“佚句”闲孤,只是零散的句子,沒有作者或獨(dú)立成篇烤礁。所以讼积,處理的時(shí)候肥照,這兩卷沒做處理。

附語(yǔ)料地址:https://github.com/dream-catcher/learning_blogs/tree/master/Quantangshi_Corpus

結(jié)構(gòu)化格式

整理的結(jié)構(gòu)化JSON信息格式如下:

[

???????? "index",?? #索引id

???????? "volume_num",#原書的“卷名”

???????? "simplified_author",?#簡(jiǎn)體版作者

???????? "simplified_title",? #簡(jiǎn)體版標(biāo)題

???????? "simplified_poem",? #簡(jiǎn)體版詩(shī)正文

???????? "simplified_poem_orig",#簡(jiǎn)體版詩(shī)原始正文

???????? "tradtional_author",?#繁體版作者

???????? "tradtional_title",??#繁體版標(biāo)題

???????? "tradtional_poem",?#繁體版詩(shī)

???????? "tradtional_poem_orig"? #繁體版詩(shī)原始正文

]

默認(rèn)情況下勤众,simplified_poem_orig及tradtional_poem_orig兩個(gè)字段為null舆绎。

如果原始的詩(shī)正文中包含說明文字,如括號(hào)內(nèi)的說明或破折號(hào)說明聯(lián)句的作者這類情況们颜,已經(jīng)對(duì)這類句子進(jìn)行了清洗吕朵,把清洗后的詩(shī)正文放在simplified_poem及tradtional_poem兩個(gè)位置,而原始正文放在simplified_poem_orig及tradtional_poem_orig位置窥突。

簡(jiǎn)單統(tǒng)計(jì)

整理的唐詩(shī)總計(jì)41560首努溃,2317位詩(shī)人,簡(jiǎn)單的統(tǒng)計(jì)如下:

白居易:2620

杜甫:1144

李白:847

齊己:779

無(wú)名氏:765

劉禹錫:694

元稹:588

貫休:546

韋應(yīng)物:543

李商隱:530

陸龜蒙:518

許渾:507

劉長(zhǎng)卿:502

皎然:492

杜牧:490

羅隱:468

姚合:455

張籍:445

錢起:429

賈島:401

孟郊:391

岑參:386

王建:379

韓愈:368

張祜:360

皮日休:353

王維:345

溫庭筠:343

權(quán)德輿:338

方干:336

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末阻问,一起剝皮案震驚了整個(gè)濱河市梧税,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌则拷,老刑警劉巖,帶你破解...
    沈念sama閱讀 210,914評(píng)論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件曹鸠,死亡現(xiàn)場(chǎng)離奇詭異煌茬,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)彻桃,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 89,935評(píng)論 2 383
  • 文/潘曉璐 我一進(jìn)店門坛善,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人邻眷,你說我怎么就攤上這事眠屎。” “怎么了肆饶?”我有些...
    開封第一講書人閱讀 156,531評(píng)論 0 345
  • 文/不壞的土叔 我叫張陵改衩,是天一觀的道長(zhǎng)。 經(jīng)常有香客問我驯镊,道長(zhǎng)葫督,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,309評(píng)論 1 282
  • 正文 為了忘掉前任板惑,我火速辦了婚禮橄镜,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘冯乘。我一直安慰自己洽胶,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,381評(píng)論 5 384
  • 文/花漫 我一把揭開白布裆馒。 她就那樣靜靜地躺著姊氓,像睡著了一般丐怯。 火紅的嫁衣襯著肌膚如雪茫打。 梳的紋絲不亂的頭發(fā)上垛贤,一...
    開封第一講書人閱讀 49,730評(píng)論 1 289
  • 那天,我揣著相機(jī)與錄音唤崭,去河邊找鬼棕孙。 笑死舔亭,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的蟀俊。 我是一名探鬼主播钦铺,決...
    沈念sama閱讀 38,882評(píng)論 3 404
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼肢预!你這毒婦竟也來(lái)了矛洞?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,643評(píng)論 0 266
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤烫映,失蹤者是張志新(化名)和其女友劉穎沼本,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體锭沟,經(jīng)...
    沈念sama閱讀 44,095評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡抽兆,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,448評(píng)論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了族淮。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片辫红。...
    茶點(diǎn)故事閱讀 38,566評(píng)論 1 339
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖祝辣,靈堂內(nèi)的尸體忽然破棺而出贴妻,到底是詐尸還是另有隱情,我是刑警寧澤蝙斜,帶...
    沈念sama閱讀 34,253評(píng)論 4 328
  • 正文 年R本政府宣布名惩,位于F島的核電站,受9級(jí)特大地震影響孕荠,放射性物質(zhì)發(fā)生泄漏绢片。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,829評(píng)論 3 312
  • 文/蒙蒙 一岛琼、第九天 我趴在偏房一處隱蔽的房頂上張望底循。 院中可真熱鬧,春花似錦槐瑞、人聲如沸熙涤。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,715評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)祠挫。三九已至那槽,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間等舔,已是汗流浹背骚灸。 一陣腳步聲響...
    開封第一講書人閱讀 31,945評(píng)論 1 264
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留慌植,地道東北人甚牲。 一個(gè)月前我還...
    沈念sama閱讀 46,248評(píng)論 2 360
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像蝶柿,于是被迫代替她去往敵國(guó)和親丈钙。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,440評(píng)論 2 348

推薦閱讀更多精彩內(nèi)容