GitHub代碼搜索限制

說(shuō)明

不知道從何時(shí)起瞎抛,GitHub限制了搜索代碼的結(jié)果,只能獲取默認(rèn)的前100條代碼热芹,且不支持排序篩選贱傀。

具體表現(xiàn)如下:

搜索aaa,共有22.5M條數(shù)據(jù)伊脓,我每頁(yè)展示20條數(shù)據(jù)府寒,當(dāng)查看到第5頁(yè)時(shí),無(wú)法繼續(xù)點(diǎn)擊下一頁(yè)报腔,當(dāng)通過(guò)修改參數(shù)查詢(xún)第6頁(yè)時(shí)株搔,提醒我沒(méi)有搜索結(jié)果。

github

后翻了一下官方的文檔纯蛾,可見(jiàn)是官方限制了搜索展示結(jié)果數(shù)量纤房。

limit

嘗試?yán)@過(guò)

當(dāng)前階段還是想盡可能多的獲取到代碼結(jié)果,畢竟從GitHub信息收集也主要依賴(lài)代碼搜索翻诉;但直接繞過(guò)GitHub搜索策略是不現(xiàn)實(shí)的(能繞過(guò)我就提hackerone了)炮姨,所以只能從測(cè)面想一些辦法盡可能多的獲取到結(jié)果捌刮,一個(gè)人的思路比較局限,有其他師傅有思路可以相互交流舒岸。

演示以搜索163的SMTP賬號(hào)密碼為例绅作,GitHub直接搜smtp.163.com password出來(lái)前100個(gè)結(jié)果沒(méi)有1個(gè)能用的。

通過(guò)搜索引擎如Google

site:github.com intext:"smtp.163.com" intext:password
google search

可見(jiàn)能搜索一些可用的SMTP賬號(hào)和密碼蛾派。

res

通過(guò)完善搜索的語(yǔ)法

GitHub搜索語(yǔ)法更新棚蓄,可以使用正則表達(dá)式、布爾等高級(jí)搜索語(yǔ)法進(jìn)行條件限制碍脏。

163默認(rèn)郵箱生成的客戶端密鑰是16位,如JLLM**********GL稍算,因此可以采用增加搜索規(guī)則的方式來(lái)縮小搜索范圍典尾,如使用正則表達(dá)式

smtp.163.com AND /password = "[\w+]{16}"/
smtp_1

由于部分用戶可能改過(guò)密鑰,所以也可以用如下語(yǔ)法:

smtp.163.com AND /password = "\w+"/ NOT /password = "(password|xxx|your_email_password|123456|X+|密碼|authCode)"/
smtp_2

通過(guò)GitHub API

在GitHub API文檔中糊探,發(fā)現(xiàn)可通過(guò)page來(lái)控制查詢(xún)的頁(yè)數(shù)钾埂,如果我們每頁(yè)1條數(shù)據(jù),那么第101頁(yè)就是第101條數(shù)據(jù)科平,也就繞過(guò)了web的100條數(shù)據(jù)限制褥紫。具體演示如下:

# 認(rèn)證
gh auth login
# 查詢(xún)
gh api -H "Accept: application/vnd.github+json" -H "X-GitHub-Api-Version: 2022-11-28" '/search/code?q=smtp.163.com+password&per_page=1&page=101'

可見(jiàn)能成功獲取到對(duì)應(yīng)的倉(cāng)庫(kù)信息。

success

一行獲取對(duì)應(yīng)文件的內(nèi)容

curl $(gh api -H "Accept: application/vnd.github+json" -H "X-GitHub-Api-Version: 2022-11-28" '/search/code?q=smtp.163.com+password&per_page=1&page=205' | jq -r .items[0].git_url) | jq -r .content | base64 -d
content

問(wèn)題點(diǎn):

Github API查詢(xún)的結(jié)果數(shù)量和GitHub網(wǎng)頁(yè)中查詢(xún)的結(jié)果數(shù)量不一致瞪慧,會(huì)少很多很多髓考。

question
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市弃酌,隨后出現(xiàn)的幾起案子氨菇,更是在濱河造成了極大的恐慌,老刑警劉巖妓湘,帶你破解...
    沈念sama閱讀 219,366評(píng)論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件查蓉,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡榜贴,警方通過(guò)查閱死者的電腦和手機(jī)豌研,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,521評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門(mén),熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)唬党,“玉大人鹃共,你說(shuō)我怎么就攤上這事〕踵冢” “怎么了及汉?”我有些...
    開(kāi)封第一講書(shū)人閱讀 165,689評(píng)論 0 356
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)屯烦。 經(jīng)常有香客問(wèn)我坷随,道長(zhǎng)房铭,這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,925評(píng)論 1 295
  • 正文 為了忘掉前任温眉,我火速辦了婚禮缸匪,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘类溢。我一直安慰自己凌蔬,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,942評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布闯冷。 她就那樣靜靜地躺著砂心,像睡著了一般。 火紅的嫁衣襯著肌膚如雪蛇耀。 梳的紋絲不亂的頭發(fā)上辩诞,一...
    開(kāi)封第一講書(shū)人閱讀 51,727評(píng)論 1 305
  • 那天,我揣著相機(jī)與錄音纺涤,去河邊找鬼译暂。 笑死,一個(gè)胖子當(dāng)著我的面吹牛撩炊,可吹牛的內(nèi)容都是我干的外永。 我是一名探鬼主播,決...
    沈念sama閱讀 40,447評(píng)論 3 420
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼拧咳,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼伯顶!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起呛踊,我...
    開(kāi)封第一講書(shū)人閱讀 39,349評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤砾淌,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后谭网,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體汪厨,經(jīng)...
    沈念sama閱讀 45,820評(píng)論 1 317
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,990評(píng)論 3 337
  • 正文 我和宋清朗相戀三年愉择,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了劫乱。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,127評(píng)論 1 351
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡锥涕,死狀恐怖衷戈,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情层坠,我是刑警寧澤殖妇,帶...
    沈念sama閱讀 35,812評(píng)論 5 346
  • 正文 年R本政府宣布,位于F島的核電站破花,受9級(jí)特大地震影響谦趣,放射性物質(zhì)發(fā)生泄漏疲吸。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,471評(píng)論 3 331
  • 文/蒙蒙 一前鹅、第九天 我趴在偏房一處隱蔽的房頂上張望摘悴。 院中可真熱鬧,春花似錦舰绘、人聲如沸蹂喻。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 32,017評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)口四。三九已至,卻和暖如春秦陋,著一層夾襖步出監(jiān)牢的瞬間窃祝,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,142評(píng)論 1 272
  • 我被黑心中介騙來(lái)泰國(guó)打工踱侣, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人大磺。 一個(gè)月前我還...
    沈念sama閱讀 48,388評(píng)論 3 373
  • 正文 我出身青樓抡句,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親杠愧。 傳聞我的和親對(duì)象是個(gè)殘疾皇子待榔,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,066評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容