yandex bot user agent

yandex bot user agent

爬蟲識(shí)別網(wǎng)站收集和整理了 yandexbot 所有的 user-agent摔笤,方便大家識(shí)別 yandexbot。

yandexbot user-agent 列表

Mozilla/5.0 (compatible; YandexAccessibilityBot/3.0; +http://yandex.com/bots)

說明:YandexAccessibilityBot 下載頁面以檢查用戶的可訪問性哆料。它每秒最多向站點(diǎn)發(fā)送 3 個(gè)請(qǐng)求抖部。機(jī)器人會(huì)忽略Yandex.Webmaster 界面中的設(shè)置。

是否遵守 robots.txt 協(xié)議:否

Mozilla/5.0 (compatible; YandexAdNet/1.0; +http://yandex.com/bots)

說明:Yandex 廣告機(jī)器人

是否遵守 robots.txt 協(xié)議:是

Mozilla/5.0 (compatible; YandexBlogs/0.99; robot; +http://yandex.com/bots)

說明:索引帖子評(píng)論的博客搜索機(jī)器人。

是否遵守 robots.txt 協(xié)議:是

Mozilla/5.0 (compatible; YandexBot/3.0; +http://yandex.com/bots)

說明:yandex 搜索引擎主要索引機(jī)器人

是否遵守 robots.txt 協(xié)議:是

Mozilla/5.0 (compatible; YandexBot/3.0; MirrorDetector; +http://yandex.com/bots)

說明:檢測站點(diǎn)鏡像機(jī)器人

是否遵守 robots.txt 協(xié)議:是

Mozilla/5.0 (compatible; YandexCalendar/1.0; +http://yandex.com/bots)

說明:Yandex.Calendar 機(jī)器人厘肮。根據(jù)用戶的請(qǐng)求下載日歷文件毅弧。這些文件通常位于禁止索引的目錄中。

是否遵守 robots.txt 協(xié)議:否

Mozilla/5.0 (compatible; YandexDirect/3.0; +http://yandex.com/bots)

說明:下載有關(guān) Yandex Advertising 網(wǎng)絡(luò)合作伙伴網(wǎng)站內(nèi)容的信息喜爷,以識(shí)別其主題類別以匹配相關(guān)廣告冗疮。

是否遵守 robots.txt 協(xié)議:否

Mozilla/5.0 (compatible; YandexDirectDyn/1.0; +http://yandex.com/bots

說明:生成動(dòng)態(tài) banner

是否遵守 robots.txt 協(xié)議:否

Mozilla/5.0 (compatible; YandexFavicons/1.0; +http://yandex.com/bots)

說明:下載站點(diǎn)的圖標(biāo)文件以顯示在搜索結(jié)果中。

是否遵守 robots.txt 協(xié)議:否

Mozilla/5.0 (compatible; YaDirectFetcher/1.0; Dyatel; +http://yandex.com/bots)

說明:下載廣告的目標(biāo)頁面以檢查其可用性和主題檩帐。這是在搜索結(jié)果和合作伙伴網(wǎng)站上放置廣告所必需的术幔。

是否遵守 robots.txt 協(xié)議:否,器人不使用 robots.txt 文件并忽略為其設(shè)置的指令湃密。

Mozilla/5.0 (compatible; YandexForDomain/1.0; +http://yandex.com/bots)

說明:Yandex.Mail 域機(jī)器人诅挑,用于驗(yàn)證域所有權(quán)。

是否遵守 robots.txt 協(xié)議:是

Mozilla/5.0 (compatible; YandexImages/3.0; +http://yandex.com/bots)

說明:Yandex 圖片索引機(jī)器人泛源。

是否遵守 robots.txt 協(xié)議:是

Mozilla/5.0 (compatible; YandexImageResizer/2.0; +http://yandex.com/bots)

說明:移動(dòng)設(shè)備機(jī)器人拔妥。

是否遵守 robots.txt 協(xié)議:是

Mozilla/5.0 (iPhone; CPU iPhone OS 8_1 like Mac OS X) AppleWebKit/600.1.4 (KHTML, like Gecko) Version/8.0 Mobile/12B411 Safari/600.1.4 (compatible; YandexBot/3.0; +http://yandex.com/bots)

說明: Ynadex 搜索引擎索引機(jī)器人。

是否遵守 robots.txt 協(xié)議:是

Mozilla/5.0 (iPhone; CPU iPhone OS 8_1 like Mac OS X) AppleWebKit/600.1.4 (KHTML, like Gecko) Version/8.0 Mobile/12B411 Safari/600.1.4 (compatible; YandexMobileBot/3.0; +http://yandex.com/bots)

說明:定義布局適合移動(dòng)設(shè)備的頁面达箍。

是否遵守 robots.txt 協(xié)議:否

Mozilla/5.0 (compatible; YandexMarket/1.0; +http://yandex.com/bots)

說明:Yandex.Market 機(jī)器人没龙。

是否遵守 robots.txt 協(xié)議:是

Mozilla/5.0 (compatible; YandexMarket/2.0; +http://yandex.com/bots)

說明:Yandex.Market 機(jī)器人。

是否遵守 robots.txt 協(xié)議:否

Mozilla/5.0 (compatible; YandexMedia/3.0; +http://yandex.com/bots)

說明:索引多媒體數(shù)據(jù)。

是否遵守 robots.txt 協(xié)議:是

Mozilla/5.0 (compatible; YandexMetrika/2.0; +http://yandex.com/bots yabs01)

說明:Yandex.Metrica 機(jī)器人硬纤。下載并緩存 CSS 樣式以在 Webvisor 中呈現(xiàn)網(wǎng)站頁面解滓。

是否遵守 robots.txt 協(xié)議:否,機(jī)器人不使用 robots.txt 文件并忽略為其設(shè)置的指令筝家。

Mozilla/5.0 (compatible; YandexMobileScreenShotBot/1.0; +http://yandex.com/bots)

說明:截取移動(dòng)頁面的屏幕截圖洼裤。

是否遵守 robots.txt 協(xié)議:否

Mozilla/5.0 (compatible; YandexNews/4.0; +http://yandex.com/bots)

說明:Yandex.News 機(jī)器人。

是否遵守 robots.txt 協(xié)議:是

Mozilla/5.0 (compatible; YandexOntoDB/1.0; +http://yandex.com/bots)

說明:對(duì)象響應(yīng)爬蟲

是否遵守 robots.txt 協(xié)議:是

Mozilla/5.0 (compatible; YandexOntoDBAPI/1.0; +http://yandex.com/bots)

說明:下載動(dòng)態(tài)數(shù)據(jù)的對(duì)象響應(yīng)機(jī)器人溪王。

是否遵守 robots.txt 協(xié)議:否

Mozilla/5.0 (compatible; YandexPagechecker/1.0; +http://yandex.com/bots)

說明:通過結(jié)構(gòu)化數(shù)據(jù)驗(yàn)證器訪問驗(yàn)證微標(biāo)記的頁面腮鞍。

是否遵守 robots.txt 協(xié)議:是

Mozilla/5.0 (compatible; YandexPartner/3.0; +http://yandex.com/bots)

說明:下載有關(guān) Yandex 合作伙伴網(wǎng)站內(nèi)容的信息。

是否遵守 robots.txt 協(xié)議:否

Mozilla/5.0 (compatible; YandexRCA/1.0; +http://yandex.com/bots)

說明:收集數(shù)據(jù)以生成預(yù)覽在扰。例如缕减,向?qū)ьA(yù)覽。

是否遵守 robots.txt 協(xié)議:否

Mozilla/5.0 (compatible; YandexSearchShop/1.0; +http://yandex.com/bots)

說明:按用戶要求下載 YML 文件中的產(chǎn)品目錄芒珠。這些文件通常放置在禁止索引的目錄中桥狡。

是否遵守 robots.txt 協(xié)議:否

Mozilla/5.0 (compatible; YandexSitelinks; Dyatel; +http://yandex.com/bots)

說明:檢查用作附加鏈接的頁面的可用性。

是否遵守 robots.txt 協(xié)議:是

Mozilla/5.0 (compatible; YandexSpravBot/1.0; +http://yandex.com/bots)

說明:Yandex.Business 爬蟲皱卓。

是否遵守 robots.txt 協(xié)議:是

Mozilla/5.0 (compatible; YandexTracker/1.0; +http://yandex.com/bots)

說明:Yandex.Tracker 爬蟲裹芝。

是否遵守 robots.txt 協(xié)議:否

Mozilla/5.0 (compatible; YandexTurbo/1.0; +http://yandex.com/bots)

說明:抓取為生成 Turbo 頁面而創(chuàng)建的 RSS 提要。它每秒最多向站點(diǎn)發(fā)送 3 個(gè)請(qǐng)求娜汁。機(jī)器人會(huì)忽略 Yandex.Webmaster 界面和 Crawl-delay 指令中的設(shè)置嫂易。

是否遵守 robots.txt 協(xié)議:是

Mozilla/5.0 (compatible; YandexVertis/3.0; +http://yandex.com/bots)

說明:垂直搜索機(jī)器人。

是否遵守 robots.txt 協(xié)議:是

Mozilla/5.0 (compatible; YandexVerticals/1.0; +http://yandex.com/bots)

說明:Yandex.Verticals 機(jī)器人:Auto.ru掐禁、Yanex.Realty怜械、Yandex.Rabota、Yandex.Reviews傅事。

是否遵守 robots.txt 協(xié)議:是

Mozilla/5.0 (compatible; YandexVideo/3.0; +http://yandex.com/bots)

說明:Yandex.Video 索引爬蟲缕允,顯示的視頻剪輯。

是否遵守 robots.txt 協(xié)議:是

Mozilla/5.0 (compatible; YandexVideoParser/1.0; +http://yandex.com/bots)

說明:Yandex.Video 索引爬蟲蹭越,顯示的視頻剪輯障本。

是否遵守 robots.txt 協(xié)議:否

Mozilla/5.0 (compatible; YandexWebmaster/2.0; +http://yandex.com/bots)

說明:Yandex.Webmaster 機(jī)器人

是否遵守 robots.txt 協(xié)議:是

Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/W.X.Y.Z* Safari/537.36 (compatible; YandexScreenshotBot/3.0; +http://yandex.com/bots)

說明:截取頁面的屏幕截圖洋幻。

是否遵守 robots.txt 協(xié)議:是

* WXYZ 字符的組合是 Chrome 瀏覽器的用戶代理版本的占位符党饮。例如:101.0.4951.54亮垫。

總結(jié)

這篇文章收集和整理了所有 Yandex 爬蟲的 User-agent 列表诫隅,由于 Yandex 業(yè)務(wù)繁雜,所以存在各種各樣的爬蟲榆浓,我們?cè)谶\(yùn)營網(wǎng)站的時(shí)候肠缔,如果不確定是不是 Yandex 的爬蟲鸯两,我們可以看看上面的 User-agent 與您日志中的 User-agent 是否符合忿项。

爬蟲識(shí)別是一個(gè)專門識(shí)別互聯(lián)網(wǎng)上各種爬蟲的網(wǎng)站蓉冈,使您免受偽造爬蟲和惡意爬蟲的侵?jǐn)_脆栋。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市洒擦,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌怕膛,老刑警劉巖熟嫩,帶你破解...
    沈念sama閱讀 222,590評(píng)論 6 517
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異褐捻,居然都是意外死亡掸茅,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 95,157評(píng)論 3 399
  • 文/潘曉璐 我一進(jìn)店門柠逞,熙熙樓的掌柜王于貴愁眉苦臉地迎上來昧狮,“玉大人,你說我怎么就攤上這事板壮《好” “怎么了?”我有些...
    開封第一講書人閱讀 169,301評(píng)論 0 362
  • 文/不壞的土叔 我叫張陵绰精,是天一觀的道長撒璧。 經(jīng)常有香客問我,道長笨使,這世上最難降的妖魔是什么卿樱? 我笑而不...
    開封第一講書人閱讀 60,078評(píng)論 1 300
  • 正文 為了忘掉前任,我火速辦了婚禮硫椰,結(jié)果婚禮上繁调,老公的妹妹穿的比我還像新娘。我一直安慰自己靶草,他們只是感情好蹄胰,可當(dāng)我...
    茶點(diǎn)故事閱讀 69,082評(píng)論 6 398
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著爱致,像睡著了一般烤送。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上糠悯,一...
    開封第一講書人閱讀 52,682評(píng)論 1 312
  • 那天帮坚,我揣著相機(jī)與錄音,去河邊找鬼互艾。 笑死试和,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的纫普。 我是一名探鬼主播阅悍,決...
    沈念sama閱讀 41,155評(píng)論 3 422
  • 文/蒼蘭香墨 我猛地睜開眼好渠,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了节视?” 一聲冷哼從身側(cè)響起拳锚,我...
    開封第一講書人閱讀 40,098評(píng)論 0 277
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎寻行,沒想到半個(gè)月后霍掺,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 46,638評(píng)論 1 319
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡拌蜘,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,701評(píng)論 3 342
  • 正文 我和宋清朗相戀三年杆烁,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片简卧。...
    茶點(diǎn)故事閱讀 40,852評(píng)論 1 353
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡兔魂,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出举娩,到底是詐尸還是另有隱情析校,我是刑警寧澤,帶...
    沈念sama閱讀 36,520評(píng)論 5 351
  • 正文 年R本政府宣布铜涉,位于F島的核電站勺良,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏骄噪。R本人自食惡果不足惜尚困,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 42,181評(píng)論 3 335
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望链蕊。 院中可真熱鬧事甜,春花似錦、人聲如沸滔韵。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,674評(píng)論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽陪蜻。三九已至邦马,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間宴卖,已是汗流浹背滋将。 一陣腳步聲響...
    開封第一講書人閱讀 33,788評(píng)論 1 274
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留症昏,地道東北人随闽。 一個(gè)月前我還...
    沈念sama閱讀 49,279評(píng)論 3 379
  • 正文 我出身青樓,卻偏偏與公主長得像肝谭,于是被迫代替她去往敵國和親掘宪。 傳聞我的和親對(duì)象是個(gè)殘疾皇子蛾扇,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,851評(píng)論 2 361

推薦閱讀更多精彩內(nèi)容