Selenium主要包含:
- Webdriver换淆,各種瀏覽器驅(qū)動軟件,用來控制瀏覽器的几颜。
- API倍试,各種編程語言可以調(diào)用的模塊,代碼通過它銜接Webdriver進而控制瀏覽器蛋哭。
- Server县习,服務(wù)程序,如果你需要遠程控制其他電腦上的代碼和Webdriver谆趾,就要在那些電腦上裝這個服務(wù)程序躁愿。
- IDE,瀏覽器插件沪蓬,有界面彤钟,快速方便的執(zhí)行簡單測試,參考這里跷叉。
大多數(shù)情況下逸雹,我們只要Webdriver和API就夠了。
Python安裝環(huán)境
先下載對應(yīng)瀏覽器的Webdriver性芬。谷歌Chrome瀏覽器點這里,注意你的Chrome應(yīng)該升級到70版本以上,下載后無需安裝剧防,放在固定的目錄就好植锉。
安裝API,使用命令
conda install -c conda-forge selenium
或者pip直接裝峭拘,有些慢俊庇,多等等。
安裝成功之后鸡挠,測試以下代碼辉饱,順利彈出瀏覽器打開百度的話就成功了。
from selenium import webdriver
driver = webdriver.Chrome('/Applications/chromedriver')
driver.get("http://www.baidu.com")
頁面元素提取
先看一下代碼:
from selenium import webdriver
from selenium.webdriver.common.by import By
driver = webdriver.Chrome('/Applications/chromedriver') #替換為你的chromdriver拷貝的目錄
driver.get("https://su.58.com/zufang/pn2/?PGTID=0d300008-0000-5965-8ce1-1873463f7758&ClickID=1")
litag=driver.find_element(By.CLASS_NAME,'listUl')
li=litag.find_elements(By.TAG_NAME,'li')
len(li)
li[3].text
這里直接從driver中find_element
拣展,參數(shù)(By.CLASS_NAME,'listUl')
是通過class名來搜索單個元素彭沼,相應(yīng)的find_elements
則是搜索多個元素。
除了By. CLASS_NAME
還可以:
(by=By.ID, value=tagid")
(By.TAG_NAME, "div")
(By.NAME, "tagnameAttr")
(By.LINK_TEXT, "點擊這里查看詳情")
(By.PARTIAL_LINK_TEXT, "詳情")
(By.CSS_SELECTOR, "#food span.dairy.aged")
(By.XPATH, "http://input")
官方默認并沒有提供通過任意屬性獲得元素的方法备埃,這種問題只能通過xpath來實現(xiàn)姓惑,比如
driver.find_element(By.XPATH,'//ul[@class="listUl"]')
可以提取class屬性為listUI的ul標(biāo)記元素褐奴。
除了直接從html中提取,還可以用js代碼提扔诒小:
driver.execute_script("return $('.cheese')[0]") #對于使用jquery的頁面
甚至可以傳遞參數(shù)進去敦冬,下面這個命令直接在瀏覽器中彈窗:
msg = 'Hello Selenium!'
driver.execute_script('''
alert(arguments[0])
''', msg)
控制頁面交互
- send_key向輸入框中添加文字唯沮,
inputElement.send_keys("cheese!")
- submit提交表單脖旱,
inputElement.submit()
- click點擊按鈕,
btnElement.click()
選擇選項:
from selenium.webdriver.support.ui import Select
select = Select(driver.find_element_by_tag_name("select"))
select.deselect_all()
select.select_by_visible_text("Edam")
切換瀏覽器選項卡:
for handle in driver.window_handles:
driver.switch_to.window(handle)
切換到彈窗:
alert = driver.switch_to.alert #alert.dismiss()
前進后退
driver.forward()
driver.back()
Cookie操作:
driver.get("http://www.example.com")
driver.add_cookie({'name':'key', 'value':'value', 'path':'/'})L
for cookie in driver.get_cookies():
print "%s -> %s" % (cookie['name'], cookie['value'])
driver.delete_cookie("CookieName")
driver.delete_all_cookies()
拖拽實現(xiàn):
from selenium.webdriver.common.action_chains import ActionChains
element = driver.find_element_by_name("source")
target = driver.find_element_by_name("target")
ActionChains(driver).drag_and_drop(element, target).perform()
等待頁面加載
Selenium并沒有直接頁面ready的回調(diào),但提供了對任意元素狀態(tài)的監(jiān)聽:
from selenium import webdriver
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
from selenium.webdriver.common.by import By
from selenium.common.exceptions import TimeoutException
browser = webdriver.Firefox()
browser.get("url")
delay = 3 #最多等3秒
try:
elem=EC.presence_of_element_located((By.ID, 'IdOfMyElement'))
myElem = WebDriverWait(browser, delay).until(elem)
print "Element is ready!"
except TimeoutException:
print "Loading took too much time!"
expected_conditions
不僅提供了元素是否存在presence_of_element_located
的監(jiān)聽介蛉,而且可以檢測元素是否可用萌庆、是否顯示、是否可點擊等多種情況甘耿。
更多資料
Selenium最強大的地方在于它直接控制瀏覽器踊兜,也就是,只要在瀏覽器中最終展示的數(shù)據(jù)都可以通過Selenium得到佳恬,無論是html還是js后續(xù)填充的內(nèi)容捏境。當(dāng)然Selenium缺點就是經(jīng)常浪費了瀏覽器的渲染時間,畢竟我們要的是數(shù)據(jù)而不是瀏覽器畫面毁葱。
每個人的智能新時代
如果您發(fā)現(xiàn)文章錯誤,請不吝留言指正倾剿;
如果您覺得有用筷频,請點喜歡;
如果您覺得很有用前痘,歡迎轉(zhuǎn)載~
END