0127編程-Selenium爬蟲工具

點擊這里進入人工智能DBD嘚吧嘚目錄狂丝,觀看全部文章


Selenium主要包含:

  • Webdriver换淆,各種瀏覽器驅(qū)動軟件,用來控制瀏覽器的几颜。
  • API倍试,各種編程語言可以調(diào)用的模塊,代碼通過它銜接Webdriver進而控制瀏覽器蛋哭。
  • Server县习,服務(wù)程序,如果你需要遠程控制其他電腦上的代碼和Webdriver谆趾,就要在那些電腦上裝這個服務(wù)程序躁愿。
  • IDE,瀏覽器插件沪蓬,有界面彤钟,快速方便的執(zhí)行簡單測試,參考這里跷叉。

大多數(shù)情況下逸雹,我們只要Webdriver和API就夠了。

Python安裝環(huán)境

  • 先下載對應(yīng)瀏覽器的Webdriver性芬。谷歌Chrome瀏覽器點這里,注意你的Chrome應(yīng)該升級到70版本以上,下載后無需安裝剧防,放在固定的目錄就好植锉。

  • 安裝API,使用命令conda install -c conda-forge selenium或者pip直接裝峭拘,有些慢俊庇,多等等。

安裝成功之后鸡挠,測試以下代碼辉饱,順利彈出瀏覽器打開百度的話就成功了。

from selenium import webdriver
driver = webdriver.Chrome('/Applications/chromedriver')
driver.get("http://www.baidu.com")

頁面元素提取

先看一下代碼:

from selenium import webdriver
from selenium.webdriver.common.by import By
driver = webdriver.Chrome('/Applications/chromedriver') #替換為你的chromdriver拷貝的目錄
driver.get("https://su.58.com/zufang/pn2/?PGTID=0d300008-0000-5965-8ce1-1873463f7758&ClickID=1")
litag=driver.find_element(By.CLASS_NAME,'listUl')
li=litag.find_elements(By.TAG_NAME,'li')
len(li)
li[3].text

這里直接從driver中find_element拣展,參數(shù)(By.CLASS_NAME,'listUl')是通過class名來搜索單個元素彭沼,相應(yīng)的find_elements則是搜索多個元素。

除了By. CLASS_NAME還可以:

  • (by=By.ID, value=tagid")
  • (By.TAG_NAME, "div")
  • (By.NAME, "tagnameAttr")
  • (By.LINK_TEXT, "點擊這里查看詳情")
  • (By.PARTIAL_LINK_TEXT, "詳情")
  • (By.CSS_SELECTOR, "#food span.dairy.aged")
  • (By.XPATH, "http://input")

官方默認并沒有提供通過任意屬性獲得元素的方法备埃,這種問題只能通過xpath來實現(xiàn)姓惑,比如driver.find_element(By.XPATH,'//ul[@class="listUl"]')可以提取class屬性為listUI的ul標(biāo)記元素褐奴。

除了直接從html中提取,還可以用js代碼提扔诒小:
driver.execute_script("return $('.cheese')[0]") #對于使用jquery的頁面

甚至可以傳遞參數(shù)進去敦冬,下面這個命令直接在瀏覽器中彈窗:

msg = 'Hello Selenium!'
driver.execute_script('''
    alert(arguments[0])
''', msg)

控制頁面交互

  • send_key向輸入框中添加文字唯沮,inputElement.send_keys("cheese!")
  • submit提交表單脖旱,inputElement.submit()
  • click點擊按鈕,btnElement.click()

選擇選項:

from selenium.webdriver.support.ui import Select
select = Select(driver.find_element_by_tag_name("select"))
select.deselect_all()
select.select_by_visible_text("Edam")

切換瀏覽器選項卡:

for handle in driver.window_handles:
    driver.switch_to.window(handle)

切換到彈窗:

alert = driver.switch_to.alert #alert.dismiss()

前進后退

driver.forward()
driver.back()

Cookie操作:

driver.get("http://www.example.com")
driver.add_cookie({'name':'key', 'value':'value', 'path':'/'})L
for cookie in driver.get_cookies():
    print "%s -> %s" % (cookie['name'], cookie['value'])
driver.delete_cookie("CookieName")
driver.delete_all_cookies()

拖拽實現(xiàn):

from selenium.webdriver.common.action_chains import ActionChains
element = driver.find_element_by_name("source")
target =  driver.find_element_by_name("target")

ActionChains(driver).drag_and_drop(element, target).perform()

等待頁面加載

Selenium并沒有直接頁面ready的回調(diào),但提供了對任意元素狀態(tài)的監(jiān)聽:

from selenium import webdriver
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
from selenium.webdriver.common.by import By
from selenium.common.exceptions import TimeoutException

browser = webdriver.Firefox()
browser.get("url")
delay = 3 #最多等3秒
try:
    elem=EC.presence_of_element_located((By.ID, 'IdOfMyElement'))
    myElem = WebDriverWait(browser, delay).until(elem)
    print "Element is ready!"
except TimeoutException:
    print "Loading took too much time!"

expected_conditions不僅提供了元素是否存在presence_of_element_located的監(jiān)聽介蛉,而且可以檢測元素是否可用萌庆、是否顯示、是否可點擊等多種情況甘耿。

更多資料

ChromeDriver官方參考
Selenium官方參考

Selenium最強大的地方在于它直接控制瀏覽器踊兜,也就是,只要在瀏覽器中最終展示的數(shù)據(jù)都可以通過Selenium得到佳恬,無論是html還是js后續(xù)填充的內(nèi)容捏境。當(dāng)然Selenium缺點就是經(jīng)常浪費了瀏覽器的渲染時間,畢竟我們要的是數(shù)據(jù)而不是瀏覽器畫面毁葱。


點擊這里進入人工智能DBD嘚吧嘚目錄垫言,觀看全部文章


每個人的智能新時代

如果您發(fā)現(xiàn)文章錯誤,請不吝留言指正倾剿;
如果您覺得有用筷频,請點喜歡;
如果您覺得很有用前痘,歡迎轉(zhuǎn)載~


END

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末凛捏,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子芹缔,更是在濱河造成了極大的恐慌坯癣,老刑警劉巖,帶你破解...
    沈念sama閱讀 217,185評論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件最欠,死亡現(xiàn)場離奇詭異示罗,居然都是意外死亡,警方通過查閱死者的電腦和手機芝硬,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,652評論 3 393
  • 文/潘曉璐 我一進店門蚜点,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人拌阴,你說我怎么就攤上這事绍绘。” “怎么了?”我有些...
    開封第一講書人閱讀 163,524評論 0 353
  • 文/不壞的土叔 我叫張陵脯倒,是天一觀的道長实辑。 經(jīng)常有香客問我,道長藻丢,這世上最難降的妖魔是什么剪撬? 我笑而不...
    開封第一講書人閱讀 58,339評論 1 293
  • 正文 為了忘掉前任,我火速辦了婚禮悠反,結(jié)果婚禮上残黑,老公的妹妹穿的比我還像新娘。我一直安慰自己斋否,他們只是感情好梨水,可當(dāng)我...
    茶點故事閱讀 67,387評論 6 391
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著茵臭,像睡著了一般疫诽。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上旦委,一...
    開封第一講書人閱讀 51,287評論 1 301
  • 那天奇徒,我揣著相機與錄音,去河邊找鬼缨硝。 笑死摩钙,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的查辩。 我是一名探鬼主播胖笛,決...
    沈念sama閱讀 40,130評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼宜岛!你這毒婦竟也來了长踊?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 38,985評論 0 275
  • 序言:老撾萬榮一對情侶失蹤萍倡,失蹤者是張志新(化名)和其女友劉穎身弊,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體遣铝,經(jīng)...
    沈念sama閱讀 45,420評論 1 313
  • 正文 獨居荒郊野嶺守林人離奇死亡佑刷,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,617評論 3 334
  • 正文 我和宋清朗相戀三年莉擒,在試婚紗的時候發(fā)現(xiàn)自己被綠了酿炸。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 39,779評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡涨冀,死狀恐怖填硕,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤扁眯,帶...
    沈念sama閱讀 35,477評論 5 345
  • 正文 年R本政府宣布壮莹,位于F島的核電站,受9級特大地震影響姻檀,放射性物質(zhì)發(fā)生泄漏命满。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,088評論 3 328
  • 文/蒙蒙 一绣版、第九天 我趴在偏房一處隱蔽的房頂上張望胶台。 院中可真熱鬧,春花似錦杂抽、人聲如沸诈唬。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,716評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽铸磅。三九已至,卻和暖如春杭朱,著一層夾襖步出監(jiān)牢的瞬間阅仔,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,857評論 1 269
  • 我被黑心中介騙來泰國打工痕檬, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留霎槐,地道東北人。 一個月前我還...
    沈念sama閱讀 47,876評論 2 370
  • 正文 我出身青樓梦谜,卻偏偏與公主長得像丘跌,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子唁桩,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,700評論 2 354

推薦閱讀更多精彩內(nèi)容