Python爬蟲之詩歌接龍

介紹

??本文將展示如何利用Python爬蟲來實(shí)現(xiàn)詩歌接龍伤靠。
??該項(xiàng)目的思路如下:

  1. 利用爬蟲爬取詩歌范咨,制作詩歌語料庫;
  2. 將詩歌分句燥撞,形成字典:鍵(key)為該句首字的拼音座柱,值(value)為該拼音對應(yīng)的詩句,并將字典保存為pickle文件物舒;
  3. 讀取pickle文件色洞,編寫程序,以exe文件形式運(yùn)行該程序冠胯。

??該項(xiàng)目實(shí)現(xiàn)的詩歌接龍火诸,規(guī)則為下一句的首字與上一句的尾字的拼音(包括聲調(diào))一致。下面將分步講述該項(xiàng)目的實(shí)現(xiàn)過程涵叮。

詩歌語料庫

??首先惭蹂,我們利用Python爬蟲來爬取詩歌,制作語料庫割粮。爬取的網(wǎng)址為:https://www.gushiwen.org盾碗,頁面如下:

爬取的詩歌

由于本文主要為試了展示該項(xiàng)目的思路,因此舀瓢,只爬取了該頁面中的唐詩三百首廷雅、古詩三百、宋詞三百、宋詞精選航缀,一共大約1100多首詩歌商架。為了加速爬蟲,采用并發(fā)實(shí)現(xiàn)爬蟲芥玉,并保存到poem.txt文件蛇摸。完整的Python程序如下:

import re
import requests
from bs4 import BeautifulSoup
from concurrent.futures import ThreadPoolExecutor, wait, ALL_COMPLETED

# 爬取的詩歌網(wǎng)址
urls = ['https://so.gushiwen.org/gushi/tangshi.aspx',
        'https://so.gushiwen.org/gushi/sanbai.aspx',
        'https://so.gushiwen.org/gushi/songsan.aspx',
        'https://so.gushiwen.org/gushi/songci.aspx'
        ]

poem_links = []
# 詩歌的網(wǎng)址
for url in urls:
    # 請求頭部
    headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.87 Safari/537.36'}
    req = requests.get(url, headers=headers)

    soup = BeautifulSoup(req.text, "lxml")
    content = soup.find_all('div', class_="sons")[0]
    links = content.find_all('a')

    for link in links:
        poem_links.append('https://so.gushiwen.org'+link['href'])

poem_list = []
# 爬取詩歌頁面
def get_poem(url):
    #url = 'https://so.gushiwen.org/shiwenv_45c396367f59.aspx'
    # 請求頭部
    headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.87 Safari/537.36'}
    req = requests.get(url, headers=headers)
    soup = BeautifulSoup(req.text, "lxml")
    poem = soup.find('div', class_='contson').text.strip()
    poem = poem.replace(' ', '')
    poem = re.sub(re.compile(r"\([\s\S]*?\)"), '', poem)
    poem = re.sub(re.compile(r"([\s\S]*?)"), '', poem)
    poem = re.sub(re.compile(r"。\([\s\S]*?)"), '', poem)
    poem = poem.replace('!', '灿巧!').replace('?', '赶袄?')
    poem_list.append(poem)

# 利用并發(fā)爬取
executor = ThreadPoolExecutor(max_workers=10)  # 可以自己調(diào)整max_workers,即線程的個(gè)數(shù)
# submit()的參數(shù): 第一個(gè)為函數(shù), 之后為該函數(shù)的傳入?yún)?shù)抠藕,允許有多個(gè)
future_tasks = [executor.submit(get_poem, url) for url in poem_links]
# 等待所有的線程完成饿肺,才進(jìn)入后續(xù)的執(zhí)行
wait(future_tasks, return_when=ALL_COMPLETED)

# 將爬取的詩句寫入txt文件
poems = list(set(poem_list))
poems = sorted(poems, key=lambda x:len(x))
for poem in poems:
    poem = poem.replace('《','').replace('》','') \
               .replace(':', '').replace('“', '')
    print(poem)
    with open('F://poem.txt', 'a') as f:
        f.write(poem)
        f.write('\n')

該程序爬取了1100多首詩歌,并將詩歌保存至poem.txt文件盾似,形成我們的詩歌語料庫敬辣。當(dāng)然,這些詩歌并不能直接使用零院,需要清理數(shù)據(jù)溉跃,比如有些詩歌標(biāo)點(diǎn)不規(guī)范,有些并不是詩歌门粪,只是詩歌的序等等喊积,這個(gè)過程需要人工操作烹困,雖然稍顯麻煩玄妈,但為了后面的詩歌分句效果,也是值得的髓梅。

詩歌分句

??有了詩歌語料庫拟蜻,我們需要對詩歌進(jìn)行分句,分句的標(biāo)準(zhǔn)為:按照結(jié)尾為枯饿。酝锅?!進(jìn)行分句奢方,這可以用正則表達(dá)式實(shí)現(xiàn)搔扁。之后,將分句好的詩歌寫成字典:鍵(key)為該句首字的拼音蟋字,值(value)為該拼音對應(yīng)的詩句稿蹲,并將字典保存為pickle文件。完整的Python代碼如下:

import re
import pickle
from xpinyin import Pinyin
from collections import defaultdict

def main():
    with open('F://poem.txt', 'r') as f:
        poems = f.readlines()

    sents = []
    for poem in poems:
        parts = re.findall(r'[\s\S]*?[鹊奖。苛聘?!]', poem.strip())
        for part in parts:
            if len(part) >= 5:
                sents.append(part)

    poem_dict = defaultdict(list)
    for sent in sents:
        print(part)
        head = Pinyin().get_pinyin(sent, tone_marks='marks', splitter=' ').split()[0]
        poem_dict[head].append(sent)

    with open('./poemDict.pk', 'wb') as f:
        pickle.dump(poem_dict, f)

main()

我們可以看一下該pickle文件(poemDict.pk)的內(nèi)容:

pickle文件的內(nèi)容(部分)

當(dāng)然,一個(gè)拼音可以對應(yīng)多個(gè)詩歌设哗。

詩歌接龍

??讀取pickle文件唱捣,編寫程序,以exe文件形式運(yùn)行該程序网梢。
??為了能夠在編譯形成exe文件的時(shí)候不出錯(cuò)震缭,我們需要改寫xpinyin模塊的_init_.py文件,將該文件的全部代碼復(fù)制至mypinyin.py战虏,并將代碼中的下面這句代碼

data_path = os.path.join(os.path.dirname(os.path.abspath(__file__)),
                             'Mandarin.dat')

改寫為

data_path = os.path.join(os.getcwd(), 'Mandarin.dat')

這樣我們就完成了mypinyin.py文件蛀序。
??接下來,我們需要編寫詩歌接龍的代碼(Poem_Jielong.py)活烙,完整代碼如下:

import pickle
from mypinyin import Pinyin
import random
import ctypes

STD_INPUT_HANDLE = -10
STD_OUTPUT_HANDLE = -11
STD_ERROR_HANDLE = -12

FOREGROUND_DARKWHITE = 0x07  # 暗白色
FOREGROUND_BLUE = 0x09  # 藍(lán)色
FOREGROUND_GREEN = 0x0a  # 綠色
FOREGROUND_SKYBLUE = 0x0b  # 天藍(lán)色
FOREGROUND_RED = 0x0c  # 紅色
FOREGROUND_PINK = 0x0d  # 粉紅色
FOREGROUND_YELLOW = 0x0e  # 黃色
FOREGROUND_WHITE = 0x0f  # 白色

std_out_handle = ctypes.windll.kernel32.GetStdHandle(STD_OUTPUT_HANDLE)

# 設(shè)置CMD文字顏色
def set_cmd_text_color(color, handle=std_out_handle):
    Bool = ctypes.windll.kernel32.SetConsoleTextAttribute(handle, color)
    return Bool

# 重置文字顏色為暗白色
def resetColor():
    set_cmd_text_color(FOREGROUND_DARKWHITE)

# 在CMD中以指定顏色輸出文字
def cprint(mess, color):
    color_dict = {
                  '藍(lán)色': FOREGROUND_BLUE,
                  '綠色': FOREGROUND_GREEN,
                  '天藍(lán)色': FOREGROUND_SKYBLUE,
                  '紅色': FOREGROUND_RED,
                  '粉紅色': FOREGROUND_PINK,
                  '黃色': FOREGROUND_YELLOW,
                  '白色': FOREGROUND_WHITE
                 }
    set_cmd_text_color(color_dict[color])
    print(mess)
    resetColor()

color_list = ['藍(lán)色','綠色','天藍(lán)色','紅色','粉紅色','黃色','白色']

# 獲取字典
with open('./poemDict.pk', 'rb') as f:
    poem_dict = pickle.load(f)

#for key, value in poem_dict.items():
    #print(key, value)

MODE = str(input('Choose MODE(1 for 人工接龍, 2 for 機(jī)器接龍): '))

while True:
    try:
        if MODE == '1':
            enter = str(input('\n請輸入一句詩或一個(gè)字開始:'))
            while enter != 'exit':
                test = Pinyin().get_pinyin(enter, tone_marks='marks', splitter=' ')
                tail = test.split()[-1]
                if tail not in poem_dict.keys():
                    cprint('無法接這句詩徐裸。\n', '紅色')
                    MODE = 0
                    break
                else:
                    cprint('\n機(jī)器回復(fù):%s'%random.sample(poem_dict[tail], 1)[0], random.sample(color_list, 1)[0])
                    enter = str(input('你的回復(fù):'))[:-1]

            MODE = 0

        if MODE == '2':
            enter = input('\n請輸入一句詩或一個(gè)字開始:')

            for i in range(10):
                test = Pinyin().get_pinyin(enter, tone_marks='marks', splitter=' ')
                tail = test.split()[-1]
                if tail not in poem_dict.keys():
                    cprint('------>無法接下去了啦...', '紅色')
                    MODE = 0
                    break
                else:
                    answer = random.sample(poem_dict[tail], 1)[0]
                    cprint('(%d)--> %s' % (i+1, answer), random.sample(color_list, 1)[0])
                    enter = answer[:-1]

            print('\n(*****最多展示前10回接龍。*****)')
            MODE = 0

    except Exception as err:
        print(err)
    finally:
        if MODE not in ['1','2']:
            MODE = str(input('\nChoose MODE(1 for 人工接龍, 2 for 機(jī)器接龍): '))

現(xiàn)在整個(gè)項(xiàng)目的結(jié)構(gòu)如下(Mandarin.dat文件從xpinyin模塊對應(yīng)的文件夾下復(fù)制過來):

項(xiàng)目文件

切換至該文件夾啸盏,輸入以下命令即可生成exe文件:

pyinstaller -F Poem_jielong.py

生成的exe文件為Poem_jielong.exe重贺,位于該文件夾的dist文件夾下。為了能夠讓exe成功運(yùn)行回懦,需要將poemDict.pk和Mandarin.dat文件復(fù)制到dist文件夾下气笙。

測試運(yùn)行

??運(yùn)行Poem_jielong.exe文件,頁面如下:

exe文件開始頁面

本項(xiàng)目的詩歌接龍有兩種模式怯晕,一種為人工接龍潜圃,就是你先輸入一句詩或一個(gè)字,然后就是計(jì)算機(jī)回復(fù)一句舟茶,你回復(fù)一句谭期,負(fù)責(zé)詩歌接龍的規(guī)則;另一種模式為機(jī)器接龍吧凉,就是你先輸入一句詩或一個(gè)字隧出,機(jī)器會自動輸出后面的接龍?jiān)娋洌ㄗ疃?0個(gè))。
??先測試人工接龍模式:

人工接龍

??再測試機(jī)器接龍模式:

機(jī)器接龍

總結(jié)

??該項(xiàng)目的Github地址為:https://github.com/percent4/Shicijielong 阀捅。
??感謝閱讀胀瞪,歡迎大家交流~~

注意:本人現(xiàn)已開通微信公眾號: Python爬蟲與算法(微信號為:easy_web_scrape), 歡迎大家關(guān)注哦~~

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末饲鄙,一起剝皮案震驚了整個(gè)濱河市凄诞,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌忍级,老刑警劉巖帆谍,帶你破解...
    沈念sama閱讀 216,470評論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異颤练,居然都是意外死亡既忆,警方通過查閱死者的電腦和手機(jī)驱负,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,393評論 3 392
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來患雇,“玉大人跃脊,你說我怎么就攤上這事】林ǎ” “怎么了酪术?”我有些...
    開封第一講書人閱讀 162,577評論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長翠储。 經(jīng)常有香客問我绘雁,道長,這世上最難降的妖魔是什么援所? 我笑而不...
    開封第一講書人閱讀 58,176評論 1 292
  • 正文 為了忘掉前任庐舟,我火速辦了婚禮,結(jié)果婚禮上住拭,老公的妹妹穿的比我還像新娘挪略。我一直安慰自己,他們只是感情好滔岳,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,189評論 6 388
  • 文/花漫 我一把揭開白布杠娱。 她就那樣靜靜地躺著,像睡著了一般谱煤。 火紅的嫁衣襯著肌膚如雪摊求。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,155評論 1 299
  • 那天刘离,我揣著相機(jī)與錄音室叉,去河邊找鬼。 笑死寥闪,一個(gè)胖子當(dāng)著我的面吹牛太惠,可吹牛的內(nèi)容都是我干的磨淌。 我是一名探鬼主播疲憋,決...
    沈念sama閱讀 40,041評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼梁只!你這毒婦竟也來了缚柳?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 38,903評論 0 274
  • 序言:老撾萬榮一對情侶失蹤搪锣,失蹤者是張志新(化名)和其女友劉穎秋忙,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體构舟,經(jīng)...
    沈念sama閱讀 45,319評論 1 310
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡灰追,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,539評論 2 332
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片弹澎。...
    茶點(diǎn)故事閱讀 39,703評論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡朴下,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出苦蒿,到底是詐尸還是另有隱情殴胧,我是刑警寧澤,帶...
    沈念sama閱讀 35,417評論 5 343
  • 正文 年R本政府宣布佩迟,位于F島的核電站团滥,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏报强。R本人自食惡果不足惜灸姊,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,013評論 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望秉溉。 院中可真熱鬧厨钻,春花似錦、人聲如沸坚嗜。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,664評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽苍蔬。三九已至诱建,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間碟绑,已是汗流浹背俺猿。 一陣腳步聲響...
    開封第一講書人閱讀 32,818評論 1 269
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留格仲,地道東北人押袍。 一個(gè)月前我還...
    沈念sama閱讀 47,711評論 2 368
  • 正文 我出身青樓,卻偏偏與公主長得像凯肋,于是被迫代替她去往敵國和親谊惭。 傳聞我的和親對象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,601評論 2 353

推薦閱讀更多精彩內(nèi)容

  • 小明咬著牙侮东,你是跑的圈盔,連小三輪都沒有騎走,我還真就不信你有的我摩托車快悄雅。 照你這個(gè)小身板驱敲,先給你跑個(gè)九百九十九...
    燈在樓梯上閱讀 517評論 0 5
  • 信息化時(shí)代,是爆炸的時(shí)代宽闲。傳播信息的方式是越來越少成本高效率了众眨。以前是驛站報(bào)紙握牧,自行車跨跨跨蹬過去。現(xiàn)在手機(jī)電腦...
    無聲小無閱讀 729評論 0 0
  • 長痘會給你帶來很多煩惱,祛痘不順會給你帶來很多煩惱姚建,祛痘成功了還是會留下一些煩惱矫俺。 有些人就奇怪了,我好好的在祛痘...
    花想容顏如玉閱讀 1,357評論 2 0
  • 萘嫵閱讀 227評論 0 1
  • 頭發(fā)掸冤,誰能告訴我頭發(fā)怎么畫
    繁盡煙殘閱讀 189評論 0 1