本文刪繁就簡饿肺,單刀直入提鸟,立刻上手selenium斩跌。
其他的可以參考[Selenium with Python](Selenium with Python — Selenium Python Bindings 2 documentation (selenium-python.readthedocs.io)
)
一桩警、安裝
建議使用Anaconda3仗嗦。安裝后膘滨,在Anaconda Prompt里敲:
pip install selenium
等待運(yùn)行完畢。
下載Chrome的Driver稀拐,將其中的exe文件解壓至C:\ProgramData\Anaconda3
下火邓。
安裝Chrome。請注意Chrome的Driver要與Chrome保持一致德撬。
二铲咨、在python中使用selenium
大致解釋一下什么是Driver。python的selenium的包是要通過Driver來操作Chrome瀏覽器的頁面蜓洪。
from selenium import webdriver #加載selenium的包
driver = webdriver.chrome() # 打開瀏覽器纤勒,這個(gè)瀏覽器專門用來被Driver操縱。當(dāng)然隆檀,也可以正常點(diǎn)擊使用摇天。
driver.get("https://www.sogou.com/") # 訪問網(wǎng)址
selenium的主要功能是模擬網(wǎng)頁使用者進(jìn)行操作,可以理解為網(wǎng)頁版的按鍵精靈恐仑。
selenium運(yùn)行的基本思路是泉坐,找到某個(gè)對象(比如輸入框、按鈕裳仆、下拉菜單腕让、上傳文件的按鈕……),然后對它進(jìn)行操作(點(diǎn)擊按鈕歧斟、復(fù)制表格纯丸、在輸入框中輸入文字……)司训,然后周而復(fù)始。
所以液南,selenium的運(yùn)行是可以理解為一個(gè)個(gè)動(dòng)作組成的,這動(dòng)作是:找對象+操作對象勾徽。
1 找對象(Locating Elements)
比如,想在搜索框里打上“天津”二字喘帚,那就得告訴selenium哪個(gè)是畅姊。這個(gè)定位的方式有很多,比如可以這樣:
在搜索框上右鍵吹由,選擇“檢查”:
然后就會彈出右側(cè)的欄若未,里面定位于此:
<input type="text" class="sec-input" name="query" id="query"
maxlength="100" len="80" autocomplete="off">
先大概解釋一下這段講的是什么。開頭的input
是代表的這個(gè)輸入框的類型倾鲫,然后剩下的type
粗合、class
都是在描述它的特征。具體如何不管乌昔,但是只要這個(gè)搜索框它有這些“特征”隙疚,那我們就可以利用這些來定位,比如:
from selenium import webdriver #加載selenium的包
driver = webdriver.chrome() # 打開瀏覽器磕道,這個(gè)瀏覽器專門用來被Driver操縱供屉。當(dāng)然,也可以正常點(diǎn)擊使用溺蕉。
driver.get("https://www.sogou.com/") # 訪問網(wǎng)址
element1=driver.find_element_by_id('query') # element1定位好了
element1.send_keys('天津') # 打上“天津”二字
element1.clear()
當(dāng)然伶丐,還可以用以下方式進(jìn)行
find_element_by_id
find_element_by_name
find_element_by_xpath
find_element_by_link_text
find_element_by_partial_link_text
find_element_by_tag_name
find_element_by_class_name
find_element_by_css_selector
刪掉的是我沒用過的。其中xpath需要講一講疯特。
比如搜狗首頁哗魂,這個(gè)搜索框的xpath就是:
/html/body/div/div[2]/div[4]/form/span[1]/input
需要解釋一下,[2]代表第2個(gè)的意思辙芍。比如/html/body/div/div[2]
啡彬,就是:
這種從根上一直寫到需要找的位置的,叫絕對路徑故硅。當(dāng)然庶灿,還有更簡短的寫法,就是相對路徑吃衅,比如:
//form[@id='sf']/span[1]/input
將上面的那些方法(Method)對應(yīng)到xpath的寫法上往踢,是:
方法(Method) | xpath寫法 |
---|---|
find_element_by_id | [@id=] |
find_element_by_name | [@name=] |
find_element_by_xpath | - |
? | |
徘层? | |
find_element_by_tag_name | [@tag=] |
find_element_by_class_name | [@tag=] |
峻呕? |
2 操作
一般常用的即是以下這些功能:
a 輸入框
填入內(nèi)容:.sendkeys('要填的內(nèi)容')
清空:.clear()
獲取里面的內(nèi)容:.get_attribute('value')
b 普通文字
獲取內(nèi)容:.text
一般普通文字是被<span>
和<\span>
包圍著利职。在其他的對象上也可以有這個(gè)屬性。
c 其他
那就是看見什么寫什么瘦癌。比如:
<input type="text" class="sec-input" name="query" id="query"
maxlength="100" len="80" autocomplete="off">
就可以寫:
element2=driver.find_element_by_id('query')
print(element2.get_attribute('type'))
print(element2.get_attribute('class'))
print(element2.get_attribute('name'))
print(element2.get_attribute('maxlength'))
print(element2.get_attribute('id'))
print(element2.get_attribute('len'))
print(element2.get_attribute('autocomplete'))
d 下拉菜單
現(xiàn)在還沒有遇到猪贪,等遇到再說。
3讯私、對象需要等網(wǎng)頁加載怎么辦
等分為“明等”(Explicit wait)和“暗等”(Implicit wait)热押。明等是當(dāng)滿足一定條件時(shí),如何如何斤寇,比如等按鈕加載出來時(shí)桶癣,就按一下。暗等就是事先規(guī)定好等多長時(shí)間(以秒計(jì))娘锁,不受任何外部條件的控制牙寞。
a 暗等
from selenium import webdriver
driver = webdriver.chrome()
driver.implicitly_wait(10) # 10秒
driver.get("https://www.sogou.com/")
element1=driver.find_element_by_id('query')
b 明等
這就需要在前面多加載一些包了。不必理會它是什么意思莫秆,照抄能用就行间雀。
from selenium import webdriver
from selenium.webdriver.common.by import By
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
driver = webdriver.chrome()
driver.get("https://www.sogou.com/")
element3=WebDriverWait(driver, 10).until(
EC.presence_of_element_located((By.ID, 'query'))
) # 等它加載出現(xiàn)后再填上字,其中的10代表10秒
element3.send_keys('天津') # 打上“天津”二字
其他的等的方式有:
title_is
title_contains
presence_of_element_located
visibility_of_element_located
visibility_of
presence_of_all_elements_located
text_to_be_present_in_element
text_to_be_present_in_element_value
frame_to_be_available_and_switch_to_it
invisibility_of_element_located
element_to_be_clickable
staleness_of
element_to_be_selected
element_located_to_be_selected
element_selection_state_to_be
element_located_selection_state_to_be
alert_is_present
4镊屎、有框架(frame)怎么辦
所謂框架就是網(wǎng)頁中套網(wǎng)頁雷蹂。但是selenium搞不定套娃,所以必須指定好是哪一層框架(frame)杯道。
比如匪煌,想定位到這個(gè)框架里面的那個(gè)body,就得:
#前面的省略
element1=driver.find_element_by_xpath('/html/body/div/iframe') #先定位到這個(gè)框架
driver.switch_to.frame(element1) #再切換到這個(gè)框架內(nèi)
#do something
driver.switch_to.default_content() #最后切換回一開始的框架內(nèi)
如果想等框架出來再進(jìn)入党巾,則可以用wait:
# 前面的省略
element4=WebDriverWait(drive,30).until(
EC.frame_to_be_available_and_switch_to_it(
(By.XPATH,'/html/body/div/iframe')
)
)
# 運(yùn)行完后萎庭,就進(jìn)入了這個(gè)框架。其中的30代表最多等30秒齿拂。