Python:爬蟲利器_自動(dòng)更換ip

爬蟲利器:自動(dòng)更換ip

使用云vps定時(shí)或不定時(shí)進(jìn)行重新?lián)芴?hào)帝嗡,達(dá)到更換ip的目的。代理軟件使用squid或者tinproxy

注冊vps

市面上的云vps很多坟桅,筆者用的最多的就是萬變云:http://www.wanbianyun.com/

進(jìn)入網(wǎng)站华望。注冊成功之后,選擇上方的動(dòng)態(tài)vps仅乓,選擇地區(qū)撥號(hào)產(chǎn)品(千萬不能選擇混撥)[充值一塊筒严,無限試用]政恍。

話不多少程拭,開通一個(gè)vps讼渊,進(jìn)入安裝操作系統(tǒng),安裝centos裕偿,然后靜候初始化成功洞慎,此時(shí),安裝成功之后嘿棘,你會(huì)發(fā)現(xiàn)劲腿,你擁有了vps的ip,port鸟妙,用戶(root)焦人,密碼(開始的時(shí)候你自己設(shè)置的),寬帶賬號(hào)重父,密碼花椭。這些是必須的。

此刻房午,你已經(jīng)初始化成功了矿辽,接下來,我們使用python程序一鍵配置郭厌。

撥號(hào)
ppp.sh 寬帶賬號(hào) 寬帶密碼 eth1
import paramiko
import re
ssh_client = paramiko.SSHClient()          
ssh_client.set_missing_host_key_policy(paramiko.AutoAddPolicy())
ssh_client.connect(vps_host, vps_port, vps_user, vps_pwd)
sftp = ssh_client.open_sftp()
sftp.put('./epel.repo', '/etc/yum.repos.d/epel.repo') # 替換鏡像配置')
stdin, stdout, stderr = ssh_client.exec_command('ppp.sh %s %s eth1' % (kuandai_name, kuandai_pwd))

此刻撥號(hào)成功袋倔,并且獲取到ip

安裝其他依賴包
安裝 yum install -y openssl
方案一:
安裝 yum install -y tinyproxy
替換文件 tinyproxy.conf > /etc/tinyproxy/tinyproxy.conf
重啟 service tinyproxy restart
方案二:
安裝 yum install -y squid
替換文件 squid.conf > /etc/squid/squid.conf
重啟 systemctl restart squid
stdin, stdout, stderr = ssh_client.exec_command('yum install -y squid')
stdin, stdout, stderr = ssh_client.exec_command('yum install -y openssl')
sftp.put('./squid.conf', '/etc/squid/squid.conf')
重啟服務(wù),關(guān)閉防火墻折柠,獲得ip
systemctl stop firewalld  # 關(guān)閉防火墻 
stdin, stdout, stderr = ssh_client.exec_command('systemctl restart squid')
stdin, stdout, stderr = ssh_client.exec_command('systemctl stop firewalld')
stdin, stdout, stderr = ssh_client.exec_command('ifconfig')
result = stdout.read().decode('utf-8')
parttern = 'ppp0: .*inet (.*?)  netmask'
ip_port = ''.join(re.findall(parttern, result, re.DOTALL)) + ':1080'
print(vps_host, '撥號(hào)成功宾娜,獲取到ip_port', ip_port)

筆者使用的端口固定為1080,在代理軟件的配置文件中更改扇售。見下方前塔。

可將ip_port儲(chǔ)存到redis,以供使用
proxy_pool.set_string('proxy', ip_port)  # 這部分功能請自行實(shí)現(xiàn)承冰≈龈基本思路,獲取ip_port之后儲(chǔ)存至redis巷懈,開web服務(wù)以供使用该抒。
ssh_client.close()
補(bǔ)充
# 寬帶連接不上的時(shí)候:
pppoe-stop
/bin/systemctl stop NetworkManager.service
ifup ppp0

# 在不同的操作系統(tǒng)中撥號(hào)的方式不同。選擇centos的原因是因?yàn)閮?nèi)置了一鍵撥號(hào)的腳本顶燕。
centos:ppp.sh 寬帶賬號(hào) 寬帶密碼 eth1
ubuntu:pppoeconf > 等待加載完成之后 > 刪除username凑保,鍵入寬帶賬號(hào) > ok > 鍵入寬帶密碼 > 一路yes > 成功撥號(hào) (配置過一次之后,以后可以使用pon dsl-provider 進(jìn)行一鍵撥號(hào))
Windows:遠(yuǎn)程桌面進(jìn)行手動(dòng)撥號(hào)

# 代理軟件配置文件涌攻,配置完成請重新啟動(dòng)服務(wù)欧引。
squid: 
    # vi /etc/squid/squid.conf
    # Deny requests to certain unsafe ports
    http_access allow !Safe_ports
    # Deny CONNECT to other than secure SSL ports
    http_access allow CONNECT !SSL_ports
    # And finally deny all other access to this proxy
    http_access allow all
    # Squid normally listens to port 3128
    http_port 1080 (自定義端口)
    # 添加:設(shè)置代理為高匿
    request_header_access Via deny all
    request_header_access X-Forwarded-For deny all
tinproxy:
    # vi /etc/tinyproxy/tinyproxy.conf
    Port 1080 (自定義端口)
    # 注釋以下這行
    # Allow 127.0.0.1
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市恳谎,隨后出現(xiàn)的幾起案子芝此,更是在濱河造成了極大的恐慌憋肖,老刑警劉巖,帶你破解...
    沈念sama閱讀 212,884評論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件婚苹,死亡現(xiàn)場離奇詭異岸更,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)膊升,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,755評論 3 385
  • 文/潘曉璐 我一進(jìn)店門怎炊,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人廓译,你說我怎么就攤上這事评肆。” “怎么了非区?”我有些...
    開封第一講書人閱讀 158,369評論 0 348
  • 文/不壞的土叔 我叫張陵瓜挽,是天一觀的道長。 經(jīng)常有香客問我征绸,道長秸抚,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,799評論 1 285
  • 正文 為了忘掉前任歹垫,我火速辦了婚禮剥汤,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘排惨。我一直安慰自己吭敢,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,910評論 6 386
  • 文/花漫 我一把揭開白布暮芭。 她就那樣靜靜地躺著鹿驼,像睡著了一般。 火紅的嫁衣襯著肌膚如雪辕宏。 梳的紋絲不亂的頭發(fā)上畜晰,一...
    開封第一講書人閱讀 50,096評論 1 291
  • 那天,我揣著相機(jī)與錄音瑞筐,去河邊找鬼凄鼻。 笑死,一個(gè)胖子當(dāng)著我的面吹牛聚假,可吹牛的內(nèi)容都是我干的块蚌。 我是一名探鬼主播,決...
    沈念sama閱讀 39,159評論 3 411
  • 文/蒼蘭香墨 我猛地睜開眼膘格,長吁一口氣:“原來是場噩夢啊……” “哼峭范!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起瘪贱,我...
    開封第一講書人閱讀 37,917評論 0 268
  • 序言:老撾萬榮一對情侶失蹤纱控,失蹤者是張志新(化名)和其女友劉穎辆毡,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體甜害,經(jīng)...
    沈念sama閱讀 44,360評論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡舶掖,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,673評論 2 327
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了唾那。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片访锻。...
    茶點(diǎn)故事閱讀 38,814評論 1 341
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡褪尝,死狀恐怖闹获,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情河哑,我是刑警寧澤避诽,帶...
    沈念sama閱讀 34,509評論 4 334
  • 正文 年R本政府宣布,位于F島的核電站璃谨,受9級(jí)特大地震影響沙庐,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜佳吞,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 40,156評論 3 317
  • 文/蒙蒙 一拱雏、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧底扳,春花似錦铸抑、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,882評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至阱冶,卻和暖如春刁憋,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背木蹬。 一陣腳步聲響...
    開封第一講書人閱讀 32,123評論 1 267
  • 我被黑心中介騙來泰國打工至耻, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人镊叁。 一個(gè)月前我還...
    沈念sama閱讀 46,641評論 2 362
  • 正文 我出身青樓有梆,卻偏偏與公主長得像,于是被迫代替她去往敵國和親意系。 傳聞我的和親對象是個(gè)殘疾皇子泥耀,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,728評論 2 351