習(xí)題集:使用MongoDB

1. 準(zhǔn)備數(shù)據(jù)

在此習(xí)題集中痛垛,你將處理另一種類(lèi)型的 infobox 數(shù)據(jù)草慧,審核、清理數(shù)據(jù)匙头,并得出一種數(shù)據(jù)模型漫谷,將數(shù)據(jù)插入 MongoDB,然后對(duì)數(shù)據(jù)庫(kù)運(yùn)行一些查詢(xún)蹂析。數(shù)據(jù)集中包含關(guān)于蛛形綱動(dòng)物的數(shù)據(jù)舔示。
對(duì)于這道練習(xí),你的任務(wù)是解析文件电抚,僅處理 FIELDS 字典中作為鍵的字段惕稻,并返回清理后的值字典列表。
你應(yīng)該完成以下幾個(gè)步驟:

  • 根據(jù) FIELDS 字典中的映射更改字典的鍵
  • 刪掉“rdf-schema#label”中的小括號(hào)里的多余說(shuō)明蝙叛,例如“(spider)”
  • 如果“name”為“NULL”俺祠,或包含非字母數(shù)字字符,將其設(shè)為和“l(fā)abel”相同的值借帘。
  • 如果字段的值為“NULL”蜘渣,將其轉(zhuǎn)換為“None”
  • 如果“synonym”中存在值,應(yīng)將其轉(zhuǎn)換為數(shù)組(列表)肺然,方法是刪掉“{}”字符蔫缸,并根* 據(jù)“|” 拆分字符串。剩下的清理方式將由你自行決定际起,例如刪除前綴“*”等拾碌。如果存在單數(shù)同義詞,值應(yīng)該依然是列表格式加叁。
  • 刪掉所有字段前后的空格(如果有的話)

輸出結(jié)構(gòu)應(yīng)該如下所示:
[ { 'label': 'Argiope',
'uri': 'http://dbpedia.org/resource/Argiope_(spider)',
'description': 'The genus Argiope includes rather large and spectacular spiders that often ...',
'name': 'Argiope',
'synonym': ["One", "Two"],
'classification': {
'family': 'Orb-weaver spider',
'class': 'Arachnid',
'phylum': 'Arthropod',
'order': 'Spider',
'kingdom': 'Animal',
'genus': None
}
},
{ 'label': ... , }, ...
]


import codecs
import csv
import json
import pprint
import re

DATAFILE = 'arachnid.csv'
FIELDS ={'rdf-schema#label': 'label',
         'URI': 'uri',
         'rdf-schema#comment': 'description',
         'synonym': 'synonym',
         'name': 'name',
         'family_label': 'family',
         'class_label': 'class',
         'phylum_label': 'phylum',
         'order_label': 'order',
         'kingdom_label': 'kingdom',
         'genus_label': 'genus'}


def process_file(filename, fields):

    process_fields = fields.keys()
    data = []
    with open(filename, "r") as f:
        reader = csv.DictReader(f)
        for i in range(3):
            l = reader.next()

        for line in reader:
            # YOUR CODE HERE
            set = {}
            set['classification'] = {}
            for i in process_fields:
                new_field = fields[i]
                temp_value = line[i].strip()
                
                if temp_value == 'NULL':
                    temp_value = None
                if i=='rdf-schema#label':
                    temp_value = re.sub(r'\(.*\)',' ',temp_value).strip()
                if i=='name' and line[i] =='NULL':
                    temp_value = line['rdf-schema#label'].strip()
                if i=='synonym' and temp_value:
                    temp_value = parse_array(line[i])
                    
                if new_field in ["kingdom", "family", "order", "phylum", "genus", "class"]:
                    set['classification'][new_field] = temp_value
                    continue
                set[new_field] = temp_value
            data.append(set)
                
            
            pass
    return data


def parse_array(v):
    if (v[0] == "{") and (v[-1] == "}"):
        v = v.lstrip("{")
        v = v.rstrip("}")
        v_array = v.split("|")
        v_array = [i.strip() for i in v_array]
        return v_array
    return [v]

2. 向 MongoDB 插入數(shù)據(jù)

Complete the insert_data function to insert the data into MongoDB.

import json

def insert_data(data, db):
    db.arachnid.insert(data)

    # Your code here. Insert the data into a collection 'arachnid'

    pass


if __name__ == "__main__":
    
    from pymongo import MongoClient
    client = MongoClient("mongodb://localhost:27017")
    db = client.examples

    with open('arachnid.json') as f:
        data = json.loads(f.read())
        insert_data(data, db)
        print db.arachnid.find_one()
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末倦沧,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子它匕,更是在濱河造成了極大的恐慌展融,老刑警劉巖,帶你破解...
    沈念sama閱讀 216,372評(píng)論 6 498
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件豫柬,死亡現(xiàn)場(chǎng)離奇詭異告希,居然都是意外死亡扑浸,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,368評(píng)論 3 392
  • 文/潘曉璐 我一進(jìn)店門(mén)燕偶,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)喝噪,“玉大人,你說(shuō)我怎么就攤上這事指么≡途澹” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 162,415評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵伯诬,是天一觀的道長(zhǎng)晚唇。 經(jīng)常有香客問(wèn)我,道長(zhǎng)盗似,這世上最難降的妖魔是什么哩陕? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,157評(píng)論 1 292
  • 正文 為了忘掉前任,我火速辦了婚禮赫舒,結(jié)果婚禮上悍及,老公的妹妹穿的比我還像新娘。我一直安慰自己接癌,他們只是感情好心赶,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,171評(píng)論 6 388
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著缺猛,像睡著了一般园担。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上枯夜,一...
    開(kāi)封第一講書(shū)人閱讀 51,125評(píng)論 1 297
  • 那天,我揣著相機(jī)與錄音艰山,去河邊找鬼湖雹。 笑死,一個(gè)胖子當(dāng)著我的面吹牛曙搬,可吹牛的內(nèi)容都是我干的摔吏。 我是一名探鬼主播,決...
    沈念sama閱讀 40,028評(píng)論 3 417
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼纵装,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼征讲!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起橡娄,我...
    開(kāi)封第一講書(shū)人閱讀 38,887評(píng)論 0 274
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤诗箍,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后挽唉,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體滤祖,經(jīng)...
    沈念sama閱讀 45,310評(píng)論 1 310
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡筷狼,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,533評(píng)論 2 332
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了匠童。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片埂材。...
    茶點(diǎn)故事閱讀 39,690評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖汤求,靈堂內(nèi)的尸體忽然破棺而出俏险,到底是詐尸還是另有隱情,我是刑警寧澤扬绪,帶...
    沈念sama閱讀 35,411評(píng)論 5 343
  • 正文 年R本政府宣布竖独,位于F島的核電站,受9級(jí)特大地震影響勒奇,放射性物質(zhì)發(fā)生泄漏预鬓。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,004評(píng)論 3 325
  • 文/蒙蒙 一赊颠、第九天 我趴在偏房一處隱蔽的房頂上張望格二。 院中可真熱鬧,春花似錦竣蹦、人聲如沸顶猜。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,659評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)长窄。三九已至,卻和暖如春纲菌,著一層夾襖步出監(jiān)牢的瞬間挠日,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 32,812評(píng)論 1 268
  • 我被黑心中介騙來(lái)泰國(guó)打工翰舌, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留嚣潜,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 47,693評(píng)論 2 368
  • 正文 我出身青樓椅贱,卻偏偏與公主長(zhǎng)得像懂算,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子庇麦,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,577評(píng)論 2 353

推薦閱讀更多精彩內(nèi)容

  • scrapy學(xué)習(xí)筆記(有示例版) 我的博客 scrapy學(xué)習(xí)筆記1.使用scrapy1.1創(chuàng)建工程1.2創(chuàng)建爬蟲(chóng)模...
    陳思煜閱讀 12,696評(píng)論 4 46
  • HTML表單 在HTML中计技,表單是 ... 之間元素的集合,它們?cè)试S訪問(wèn)者輸入文本山橄、選擇選項(xiàng)垮媒、操作對(duì)象等等,然后將...
    蘭山小亭閱讀 3,417評(píng)論 2 14
  • “等待”意味著所求之物尚在前方。對(duì)重病中的紀(jì)德而言涣澡,他所等待的便是“梅納爾克”贱呐,或者說(shuō),重新燃起的對(duì)生活的激情入桂。在...
    沐亦凡FY閱讀 253評(píng)論 3 1
  • 聽(tīng)過(guò)很多道理 卻依然過(guò)不好這一生奄薇。——韓寒《后會(huì)無(wú)期》 親愛(ài)的抗愁,我不希望大學(xué)青春里這幾年的你馁蒂,聽(tīng)過(guò)無(wú)數(shù)道理卻依舊過(guò)...
    笙笳愛(ài)吃糖閱讀 572評(píng)論 0 5