使用python和requests爬取世界衛(wèi)生組織vigiaccess不良反應(yīng)數(shù)據(jù)庫

vigiaccess是世界衛(wèi)生組織收集藥品不良反應(yīng)的數(shù)據(jù)庫,可以查詢到各種藥品的不良反應(yīng)坑夯,本文是以爬取藥品的不良反應(yīng)為目標(biāo)岖寞,本文僅供學(xué)習(xí)交流!柜蜈!


一仗谆、分析網(wǎng)站特點,找到可以request的URL

1.分析網(wǎng)站

1.用谷歌瀏覽器打開網(wǎng)站http://www.vigiaccess.org/按F12進入調(diào)試模式淑履,在Network 里點擊XHR隶垮。進入網(wǎng)站在網(wǎng)站里輸入藥品名,我這輸入的是Bisoprolol秘噪,然后點開Adverse drug reactions (ADRs)進入最里層狸吞。可以在XHR里就看到紅色大框里的這3個文件。


2.第一個文件 drug?tradename=Bisoprolol 返回的是藥品在數(shù)據(jù)庫里的查詢id蹋偏,我這里輸入的藥品是Bisoprolol便斥,所以返回的是1uNwu7s8xez4ME7Jg8fprw%3D%3D這么一串。我們先點擊 drug?tradename=Bisoprolol 文件威始,再點擊Preview就可以看到椭住。

3.點擊第二個文件distributions?agegroupFilter=&continentFilter=&rea…&substanc,再點擊Preview字逗,可以看到這個返回的是一級目錄Adverse drug reactions (ADRs)等和它的二級目錄及其二級目錄的查詢id京郑。



4.點擊第三個文件preferredterms?agegroupFilter=&continentFilter=&re…&s,再點擊Preview葫掉,可以看到是具體的不良反應(yīng)(ADR)些举。

2.獲取URL

分別點擊以上3個文件的Headers,可以看到鏈接Request URL俭厚。


  1. 第一個文件的鏈接:https://api.who-umc.org/vigibase/icsrstatistics/dimensions/drug?tradename=Bisoprolol户魏,可以看到 <mark style="box-sizing: border-box; outline: 0px; margin: 0px; padding: 0px; background-color: rgb(248, 248, 64); color: rgb(0, 0, 0); overflow-wrap: break-word;">tradename=Bisoprolol</mark>,等于號后面的就是我們輸入的藥品Bisoprolol挪挤,所以我們只需修改等于號后面的就可以得到其他藥品查詢ID叼丑。我這里輸入的藥品是Bisoprolol,所以返回的藥品查詢ID是:<mark style="box-sizing: border-box; outline: 0px; margin: 0px; padding: 0px; background-color: rgb(248, 248, 64); color: rgb(0, 0, 0); overflow-wrap: break-word;">1uNwu7s8xez4ME7Jg8fprw%3D%3D</mark>扛门。

  2. 第二個文件的鏈接:https://api.who-umc.org/vigibase/icsrstatistics/distributions?agegroupFilter=&continentFilter=&reactionFilter=&sexFilter=&substanceFilter=1uNwu7s8xez4ME7Jg8fprw%253D%253D鸠信,可以看到<mark style="box-sizing: border-box; outline: 0px; margin: 0px; padding: 0px; background-color: rgb(248, 248, 64); color: rgb(0, 0, 0); overflow-wrap: break-word;">substanceFilter=1uNwu7s8xez4ME7Jg8fprw%253D%253D</mark>,等于號后面的就是藥品的查詢ID(第一個文件返回的數(shù)據(jù))论寨,所以我們只需修改等于號后面的就可以得到目錄數(shù)據(jù)星立,返回的數(shù)據(jù)里有二級目錄的ADR查詢ID。

  3. 第三個文件的鏈接:
    https://api.who-umc.org/vigibase/icsrstatistics/distributions/reactions/preferredterms?agegroupFilter=&continentFilter=&reactionFilter=1qyE%252FhX5pLN1fUGPIVfAtQ%253D%253D
    &resultLimit=50&resultStart=0&sexFilter=&substanceFilter=1uNwu7s8xez4ME7Jg8fprw%253D%253D葬凳,可以看到<mark style="box-sizing: border-box; outline: 0px; margin: 0px; padding: 0px; background-color: rgb(248, 248, 64); color: rgb(0, 0, 0); overflow-wrap: break-word;">reactionFilter=1qyE%252FhX5pLN1fUGPIVfAtQ%253D%253D</mark>绰垂,等于號后面的就是第二個文件返回的二級目錄ADR查詢ID;還可以看到<mark style="box-sizing: border-box; outline: 0px; margin: 0px; padding: 0px; background-color: rgb(248, 248, 64); color: rgb(0, 0, 0); overflow-wrap: break-word;">substanceFilter=1uNwu7s8xez4ME7Jg8fprw%253D%253D</mark>火焰,就是第二個文件里的鏈接后面部分即藥品的查詢ID劲装。

3.爬蟲思路

先用藥品名拼接第一個文件里的url,requests得到藥品的查詢id昌简。再用藥品的查詢id拼接第二個文件里的url占业,requests得到二級目錄ADR的查詢id。最后用二級目錄ADR的查詢id拼接第三個文件里的url江场,requests得到具體的ADR纺酸。

二窖逗、具體代碼

# -*- coding: utf-8 -*-
from urllib import parse
import requests
import time
#查詢藥id的url
url_id ="https://api.who-umc.org/vigibase/icsrstatistics/dimensions/drug?tradename="
#查詢分級Id的url
url_drug="https://api.who-umc.org/vigibase/icsrstatistics/distributions?agegroupFilter=&continentFilter=&reactionFilter=&sexFilter=&substanceFilter="
#不良反應(yīng)信息的url,兩部分組成
url_info_1="https://api.who-umc.org/vigibase/icsrstatistics/distributions/reactions/preferredterms?agegroupFilter=&continentFilter=&reactionFilter="
url_info_2="&resultLimit=50&resultStart=0&sexFilter=&substanceFilter="


#瀏覽器里的headers
headers={
    "Accept": "application/json, text/plain, */*",
    "Accept-Encoding": "gzip, deflate, br",
    "Accept-Language": "zh-CN,zh;q=0.9",
    "Authorization": "Basic VmlnaUJhc2VBY2Nlc3NDbGllbnQ6cHN3ZDRWaUE=",
    "Connection": "keep-alive",
    "Host": "api.who-umc.org",
    "Origin": "http://www.vigiaccess.org",
    "Referer": "http://www.vigiaccess.org/",
    "Sec-Fetch-Dest": "empty",
    "Sec-Fetch-Mode": "cors",
    "Sec-Fetch-Site": "cross-site",
    "umc-client-key": "6d851d41-f558-4805-a9a6-08df0e0e414b",
    "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/84.0.4147.89 Safari/537.36"
}


#抓取藥品Id
def crawlDrugId(url):
    try:
        data=requests.get(url=url,headers=headers,timeout=10)
        print("抓取藥品Id連接服務(wù)器狀態(tài):",data)
        drug_id=data.json()[0]["Code"]
        return drug_id
    except:
        return ""

#抓取分級Id
def scaleId(url):
    try:
        data=requests.get(url=url,headers=headers,timeout=10)
        print("抓取分級Id連接服務(wù)器狀態(tài):",data)
        data=data.json()["AdrObservations"]
        scale=[]
        #scale={}
        for i in data:
            # Group=i["Group"]
            GroupId = i["GroupId"]
            # NumberOfReports=i["NumberOfReports"]
            # scale[Group]=GroupId
            scale.append(GroupId)
        return scale
    except:
        return ""

#抓取不良反應(yīng)信息
def crawlAdrInfo(url):
    try:
        data=requests.get(url=url,headers=headers,timeout=10)
        print("抓取不良反應(yīng)信息連接服務(wù)器狀態(tài):",data)
        data=data.json()["Observations"]
        adr_info={}
        for i in data:
            Group=i["Group"]
            NumberOfReports=i["NumberOfReports"]
            adr_info[Group]=NumberOfReports
        return adr_info
    except:
        return ""


def main(drugList):
    data=[]
    for i in range(len(drugList)):
        drugName=drugList[i]
        new_url_id = url_id + drugName   #拼接url
        drug_id = crawlDrugId(new_url_id) #抓取藥品Id
        time.sleep(1)
        drug_id = parse.quote(drug_id)   #將數(shù)據(jù)進行url編碼
        new_url_drug = url_drug + drug_id#拼接url
        scale = scaleId(new_url_drug)#抓取分級頁Id
        time.sleep(1)
        adr_info_all = {}
        for s in scale:
            s = parse.quote(s)  #將數(shù)據(jù)進行url編碼
            url_info = url_info_1 + s + url_info_2 + drug_id#拼接url
            adr_info = crawlAdrInfo(url_info)#抓取不良反應(yīng)信息
            time.sleep(1)
            adr_info_all.update(adr_info)
        print(adr_info_all)
        data.append(adr_info_all)
    return data

if __name__=="__main__":
    start_time = time.time()
    drug=["Bisoprolol"]   
    data=main(drug)
    print(data)
    print("successful,任務(wù)完成V贩瘛!")
    end_time = time.time()
    uesd_time = end_time - start_time
    print("總用時:", uesd_time)

三、結(jié)束

上面代碼只是簡單實現(xiàn)了這個網(wǎng)站數(shù)據(jù)爬取佑附,還得根據(jù)實際項目需要再做修改樊诺。注意:request 的時候,有時網(wǎng)站未響應(yīng)或者響應(yīng)超時音同,需添加代碼多request幾次词爬。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市权均,隨后出現(xiàn)的幾起案子顿膨,更是在濱河造成了極大的恐慌,老刑警劉巖叽赊,帶你破解...
    沈念sama閱讀 217,509評論 6 504
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件恋沃,死亡現(xiàn)場離奇詭異,居然都是意外死亡必指,警方通過查閱死者的電腦和手機囊咏,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,806評論 3 394
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來塔橡,“玉大人梅割,你說我怎么就攤上這事「鸺遥” “怎么了户辞?”我有些...
    開封第一講書人閱讀 163,875評論 0 354
  • 文/不壞的土叔 我叫張陵,是天一觀的道長癞谒。 經(jīng)常有香客問我咆课,道長,這世上最難降的妖魔是什么扯俱? 我笑而不...
    開封第一講書人閱讀 58,441評論 1 293
  • 正文 為了忘掉前任书蚪,我火速辦了婚禮,結(jié)果婚禮上迅栅,老公的妹妹穿的比我還像新娘殊校。我一直安慰自己,他們只是感情好读存,可當(dāng)我...
    茶點故事閱讀 67,488評論 6 392
  • 文/花漫 我一把揭開白布为流。 她就那樣靜靜地躺著,像睡著了一般让簿。 火紅的嫁衣襯著肌膚如雪敬察。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,365評論 1 302
  • 那天尔当,我揣著相機與錄音莲祸,去河邊找鬼。 笑死,一個胖子當(dāng)著我的面吹牛锐帜,可吹牛的內(nèi)容都是我干的田盈。 我是一名探鬼主播,決...
    沈念sama閱讀 40,190評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼缴阎,長吁一口氣:“原來是場噩夢啊……” “哼允瞧!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起蛮拔,我...
    開封第一講書人閱讀 39,062評論 0 276
  • 序言:老撾萬榮一對情侶失蹤述暂,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后建炫,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體贸典,經(jīng)...
    沈念sama閱讀 45,500評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,706評論 3 335
  • 正文 我和宋清朗相戀三年踱卵,在試婚紗的時候發(fā)現(xiàn)自己被綠了廊驼。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 39,834評論 1 347
  • 序言:一個原本活蹦亂跳的男人離奇死亡惋砂,死狀恐怖妒挎,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情西饵,我是刑警寧澤酝掩,帶...
    沈念sama閱讀 35,559評論 5 345
  • 正文 年R本政府宣布,位于F島的核電站眷柔,受9級特大地震影響期虾,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜驯嘱,卻給世界環(huán)境...
    茶點故事閱讀 41,167評論 3 328
  • 文/蒙蒙 一镶苞、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧鞠评,春花似錦茂蚓、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,779評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至负乡,卻和暖如春牍白,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背抖棘。 一陣腳步聲響...
    開封第一講書人閱讀 32,912評論 1 269
  • 我被黑心中介騙來泰國打工茂腥, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留狸涌,地道東北人。 一個月前我還...
    沈念sama閱讀 47,958評論 2 370
  • 正文 我出身青樓础芍,卻偏偏與公主長得像杈抢,于是被迫代替她去往敵國和親数尿。 傳聞我的和親對象是個殘疾皇子仑性,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,779評論 2 354