selenium用法詳解

selenium主要是用來做自動化測試,支持多種瀏覽器,爬蟲中主要用來解決JavaScript渲染問題庸推。

模擬瀏覽器進行網(wǎng)頁加載案站,當(dāng)requests,urllib無法正常獲取網(wǎng)頁內(nèi)容的時候

一、聲明瀏覽器對象

注意點一枉证,Python文件名或者包名不要命名為selenium矮男,會導(dǎo)致無法導(dǎo)入

from selenium import webdriver

#webdriver可以認為是瀏覽器的驅(qū)動器,要驅(qū)動瀏覽器必須用到webdriver室谚,支持多種瀏覽器毡鉴,這里以Chrome為例

browser = webdriver.Chrome()

二、訪問頁面并獲取網(wǎng)頁html

from selenium import webdriver

browser = webdriver.Chrome()

browser.get('https://www.taobao.com')

print(browser.page_source)#browser.page_source是獲取網(wǎng)頁的全部html

browser.close()

三秒赤、查找元素

單個元素

from selenium import webdriver

browser = webdriver.Chrome()

browser.get('https://www.taobao.com')

input_first = browser.find_element_by_id('q')

input_second = browser.find_element_by_css_selector('#q')

input_third = browser.find_element_by_xpath('//*[@id="q"]')

print(input_first,input_second,input_third)

browser.close()

常用的查找方法

find_element_by_name

find_element_by_xpath

find_element_by_link_text

find_element_by_partial_link_text

find_element_by_tag_name

find_element_by_class_name

find_element_by_css_selector

也可以使用通用的方法

from selenium import webdriver

from selenium.webdriver.common.by import By

browser = webdriver.Chrome()

browser.get('https://www.taobao.com')

input_first = browser.find_element(BY.ID,'q')#第一個參數(shù)傳入名稱猪瞬,第二個傳入具體的參數(shù)

print(input_first)

browser.close()

多個元素,elements多個s

input_first = browser.find_elements_by_id('q')

四入篮、元素交互操作-搜索框傳入關(guān)鍵詞進行自動搜索

from selenium import webdriver

import time

browser = webdriver.Chrome()

browser.get('https://www.taobao.com')

input = browser.find_element_by_id('q')#找到搜索框

input.send_keys('iPhone')#傳送入關(guān)鍵詞

time.sleep(5)

input.clear()#清空搜索框

input.send_keys('男士內(nèi)褲')

button = browser.find_element_by_class_name('btn-search')#找到搜索按鈕

button.click()

更多操作: http://selenium-python.readthedocs.io/api.html#module-selenium.webdriver.remote.webelement#可以有屬性陈瘦、截圖等等

五、交互動作潮售,驅(qū)動瀏覽器進行動作痊项,模擬拖拽動作锅风,將動作附加到動作鏈中串行執(zhí)行

from selenium import webdriver

from selenium.webdriver import ActionChains#引入動作鏈

browser = webdriver.Chrome()

url = 'http://www.runoob.com/try/try.php?filename=jqueryui-api-droppable'

browser.get(url)

browser.switch_to.frame('iframeResult')#切換到iframeResult框架

source = browser.find_element_by_css_selector('#draggable')#找到被拖拽對象

target = browser.find_element_by_css_selector('#droppable')#找到目標(biāo)

actions = ActionChains(browser)#聲明actions對象

actions.drag_and_drop(source, target)

actions.perform()#執(zhí)行動作

更多操作: http://selenium-python.readthedocs.io/api.html#module-selenium.webdriver.common.action_chains

六、執(zhí)行JavaScript

有些動作可能沒有提供api鞍泉,比如進度條下拉皱埠,這時,我們可以通過代碼執(zhí)行JavaScript

from selenium import webdriver

browser = webdriver.Chrome()

browser.get('https://www.zhihu.com/explore')

browser.execute_script('window.scrollTo(0, document.body.scrollHeight)')

browser.execute_script('alert("To Bottom")')

七咖驮、獲取元素信息

獲取屬性

from selenium import webdriver

from selenium.webdriver import ActionChains

browser = webdriver.Chrome()

url = 'https://www.zhihu.com/explore'

browser.get(url)

logo = browser.find_element_by_id('zh-top-link-logo')#獲取網(wǎng)站logo

print(logo)

print(logo.get_attribute('class'))

browser.close()

獲取文本值

from selenium import webdriver

browser = webdriver.Chrome()

url = 'https://www.zhihu.com/explore'

browser.get(url)

input = browser.find_element_by_class_name('zu-top-add-question')

print(input.text)#input.text文本值

browser.close()

# 獲取Id边器,位置,標(biāo)簽名托修,大小

from selenium import webdriver

browser = webdriver.Chrome()

url = 'https://www.zhihu.com/explore'

browser.get(url)

input = browser.find_element_by_class_name('zu-top-add-question')

print(input.id)#獲取id

print(input.location)#獲取位置

print(input.tag_name)#獲取標(biāo)簽名

print(input.size)#獲取大小

browser.close()

八忘巧、Frame操作

frame相當(dāng)于獨立的網(wǎng)頁,如果在父類網(wǎng)frame查找子類的睦刃,則必須切換到子類的frame袋坑,子類如果查找父類也需要先切換

from selenium import webdriver

from selenium.common.exceptions import NoSuchElementException

browser = webdriver.Chrome()

url = 'http://www.runoob.com/try/try.php?filename=jqueryui-api-droppable'

browser.get(url)

browser.switch_to.frame('iframeResult')

source = browser.find_element_by_css_selector('#draggable')

print(source)

try:

? ? logo = browser.find_element_by_class_name('logo')

except NoSuchElementException:

? ? print('NO LOGO')

browser.switch_to.parent_frame()

logo = browser.find_element_by_class_name('logo')

print(logo)

print(logo.text)

九、等待

隱式等待

當(dāng)使用了隱式等待執(zhí)行測試的時候眯勾,如果 WebDriver沒有在 DOM中找到元素枣宫,將繼續(xù)等待,超出設(shè)定時間后則拋出找不到元素的異常,

換句話說吃环,當(dāng)查找元素或元素并沒有立即出現(xiàn)的時候也颤,隱式等待將等待一段時間再查找 DOM,默認的時間是0

from selenium import webdriver

browser = webdriver.Chrome()

browser.implicitly_wait(10)#等待十秒加載不出來就會拋出異常郁轻,10秒內(nèi)加載出來正常返回

browser.get('https://www.zhihu.com/explore')

input = browser.find_element_by_class_name('zu-top-add-question')

print(input)

顯式等待

指定一個等待條件翅娶,和一個最長等待時間,程序會判斷在等待時間內(nèi)條件是否滿足好唯,如果滿足則返回竭沫,如果不滿足會繼續(xù)等待,超過時間就會拋出異常

from selenium import webdriver

from selenium.webdriver.common.by import By

from selenium.webdriver.support.ui import WebDriverWait

from selenium.webdriver.support import expected_conditions as EC

browser = webdriver.Chrome()

browser.get('https://www.taobao.com/')

wait = WebDriverWait(browser, 10)

input = wait.until(EC.presence_of_element_located((By.ID, 'q')))

button = wait.until(EC.element_to_be_clickable((By.CSS_SELECTOR, '.btn-search')))

print(input, button)

title_is 標(biāo)題是某內(nèi)容

title_contains 標(biāo)題包含某內(nèi)容

presence_of_element_located 元素加載出骑篙,傳入定位元組蜕提,如(By.ID, 'p')

visibility_of_element_located 元素可見,傳入定位元組

visibility_of 可見靶端,傳入元素對象

presence_of_all_elements_located 所有元素加載出

text_to_be_present_in_element 某個元素文本包含某文字

text_to_be_present_in_element_value 某個元素值包含某文字

frame_to_be_available_and_switch_to_it frame加載并切換

invisibility_of_element_located 元素不可見

element_to_be_clickable 元素可點擊

staleness_of 判斷一個元素是否仍在DOM谎势,可判斷頁面是否已經(jīng)刷新

element_to_be_selected 元素可選擇,傳元素對象

element_located_to_be_selected 元素可選擇杨名,傳入定位元組

element_selection_state_to_be 傳入元素對象以及狀態(tài)脏榆,相等返回True,否則返回False

element_located_selection_state_to_be 傳入定位元組以及狀態(tài)台谍,相等返回True须喂,否則返回False

alert_is_present 是否出現(xiàn)Alert

詳細內(nèi)容:http://selenium-python.readthedocs.io/api.html#module-selenium.webdriver.support.expected_conditions

十一、前進后退-實現(xiàn)瀏覽器的前進后退以瀏覽不同的網(wǎng)頁

import time

from selenium import webdriver

browser = webdriver.Chrome()

browser.get('https://www.baidu.com/')

browser.get('https://www.taobao.com/')

browser.get('https://www.python.org/')

browser.back()

time.sleep(1)

browser.forward()

browser.close()

十二、Cookies

from selenium import webdriver

browser = webdriver.Chrome()

browser.get('https://www.zhihu.com/explore')

print(browser.get_cookies())

browser.add_cookie({'name': 'name', 'domain': 'www.zhihu.com', 'value': 'germey'})

print(browser.get_cookies())

browser.delete_all_cookies()

print(browser.get_cookies())

選項卡管理 增加瀏覽器窗口

import time

from selenium import webdriver

browser = webdriver.Chrome()

browser.get('https://www.baidu.com')

browser.execute_script('window.open()')

print(browser.window_handles)

browser.switch_to_window(browser.window_handles[1])

browser.get('https://www.taobao.com')

time.sleep(1)

browser.switch_to_window(browser.window_handles[0])

browser.get('http://www.fishc.com')

十三坞生、異常處理

from selenium import webdriver

browser = webdriver.Chrome()

browser.get('https://www.baidu.com')

browser.find_element_by_id('hello')

from selenium import webdriver

from selenium.common.exceptions import TimeoutException, NoSuchElementException

browser = webdriver.Chrome()

try:

? ? browser.get('https://www.baidu.com')

except TimeoutException:

? ? print('Time Out')

try:

? ? browser.find_element_by_id('hello')

except NoSuchElementException:

? ? print('No Element')

finally:

? ? browser.close()

# 詳細文檔:http://selenium-python.readthedocs.io/api.html#module-selenium.common.exceptions

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末仔役,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子恨胚,更是在濱河造成了極大的恐慌骂因,老刑警劉巖炎咖,帶你破解...
    沈念sama閱讀 217,542評論 6 504
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件赃泡,死亡現(xiàn)場離奇詭異,居然都是意外死亡乘盼,警方通過查閱死者的電腦和手機升熊,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,822評論 3 394
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來绸栅,“玉大人级野,你說我怎么就攤上這事〈饪瑁” “怎么了蓖柔?”我有些...
    開封第一講書人閱讀 163,912評論 0 354
  • 文/不壞的土叔 我叫張陵,是天一觀的道長风纠。 經(jīng)常有香客問我况鸣,道長,這世上最難降的妖魔是什么竹观? 我笑而不...
    開封第一講書人閱讀 58,449評論 1 293
  • 正文 為了忘掉前任镐捧,我火速辦了婚禮,結(jié)果婚禮上臭增,老公的妹妹穿的比我還像新娘懂酱。我一直安慰自己,他們只是感情好誊抛,可當(dāng)我...
    茶點故事閱讀 67,500評論 6 392
  • 文/花漫 我一把揭開白布列牺。 她就那樣靜靜地躺著,像睡著了一般拗窃。 火紅的嫁衣襯著肌膚如雪昔园。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,370評論 1 302
  • 那天并炮,我揣著相機與錄音默刚,去河邊找鬼。 笑死逃魄,一個胖子當(dāng)著我的面吹牛荤西,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 40,193評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼邪锌,長吁一口氣:“原來是場噩夢啊……” “哼勉躺!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起觅丰,我...
    開封第一講書人閱讀 39,074評論 0 276
  • 序言:老撾萬榮一對情侶失蹤饵溅,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后妇萄,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體蜕企,經(jīng)...
    沈念sama閱讀 45,505評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,722評論 3 335
  • 正文 我和宋清朗相戀三年冠句,在試婚紗的時候發(fā)現(xiàn)自己被綠了轻掩。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 39,841評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡懦底,死狀恐怖唇牧,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情聚唐,我是刑警寧澤丐重,帶...
    沈念sama閱讀 35,569評論 5 345
  • 正文 年R本政府宣布,位于F島的核電站杆查,受9級特大地震影響扮惦,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜根灯,卻給世界環(huán)境...
    茶點故事閱讀 41,168評論 3 328
  • 文/蒙蒙 一径缅、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧烙肺,春花似錦纳猪、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,783評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至星著,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間同欠,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,918評論 1 269
  • 我被黑心中介騙來泰國打工衫哥, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留撤逢,地道東北人粮坞。 一個月前我還...
    沈念sama閱讀 47,962評論 2 370
  • 正文 我出身青樓捞蚂,卻偏偏與公主長得像跷究,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子丁存,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,781評論 2 354

推薦閱讀更多精彩內(nèi)容