基于大模型的app自動(dòng)遍歷技術(shù)

背景

市面上大部分的monkey類測試工具帚屉,基本是隨機(jī)或者在策略下隨機(jī)的遍歷邏輯眶根;典型的例如:原始的monkey欧募、或者fastbot這種基于預(yù)訓(xùn)練模型+策略配置的monkey个粱;但無論哪一種棉浸,都有固定的缺陷凝危。

  • 原始的monkey昆烁,隨機(jī)性太強(qiáng)多矮,冗余操作太多蟹略,遍歷度不夠
  • 類fastbot的策略下遍歷登失,策略的配置成本高,需要定制頁面映射的動(dòng)作挖炬,才能完成業(yè)務(wù)邏輯的翻越揽浙,典型的場景,登錄,你必須配置登錄頁面映射的登錄動(dòng)作腳本馅巷,你能夠遍歷時(shí)越過登錄這個(gè)頁面膛虫。

基于隨機(jī)和動(dòng)作冗余以及配置成本之間的關(guān)系,我們在想钓猬,有沒有一種方式稍刀,可以以最小的成本,作出最符合人類思維的遍歷結(jié)果逗噩,恰逢年初掉丽,gpt橫空出世,因此我們決定用gpt來做探索性的嘗試异雁。

GptTraversal 介紹

GptTraversal是一個(gè)基于大模型的app遍歷程序捶障,我們使用大模型代替了傳統(tǒng)的代碼遍歷決策系統(tǒng),如一些典型算法下的策略:深度優(yōu)先纲刀,廣度優(yōu)先项炼,控件的類型和優(yōu)先級映射,黑白名單設(shè)置等示绊;轉(zhuǎn)而讓大模型以一個(gè)正常的“人”的思維锭部,面對app的頁面,進(jìn)行遍歷的動(dòng)作決策面褐。

基本原理

由于是公司內(nèi)的項(xiàng)目拌禾,因此暫時(shí)不能開源,可以說下大概的原理展哭。

首先湃窍,我們將app的頁面樹,做處理后匪傍,交給gpt您市,讓他判斷當(dāng)前的場景,以及下一步如何操作役衡,并記錄下歷史的決策茵休,下一步的操作會基于遍歷目標(biāo)和歷史決策進(jìn)行,這一步相當(dāng)于給gpt提供視覺手蝎,讓gpt“看見”app(當(dāng)時(shí)還沒有g(shù)pt4v)榕莺;

其次,我們會內(nèi)置相應(yīng)的動(dòng)作棵介,例如點(diǎn)擊帽撑、滑動(dòng)、輸入等等鞍时,gpt會從動(dòng)作庫選擇一個(gè)亏拉,進(jìn)行相關(guān)的動(dòng)作觸發(fā)扣蜻,這一步相當(dāng)于給gpt提供了手,可以對app進(jìn)行直接操作及塘;

最后莽使,我們會記錄過程的一切數(shù)據(jù),包括覆蓋率笙僚、截圖芳肌、內(nèi)存信息等等,作為最終的報(bào)告匯總數(shù)據(jù)肋层;額外的亿笤,為了避免token溢出問題帶來的ai步驟的步數(shù)限制,導(dǎo)致遍歷度不夠栋猖,我們增加了傳統(tǒng)的monkey和ai步驟的混編净薛,讓隨機(jī)和有序相結(jié)合的進(jìn)行遍歷。

基本架構(gòu)

image.png

效果

基本上來說蒲拉,可以代替之前需要定制動(dòng)作的節(jié)點(diǎn)肃拜,例如登錄、循環(huán)翻頁雌团、填寫表單等等燃领,完全不需要任何的定制化腳本,gpt可以自主以正常人的思維進(jìn)行操作锦援。
缺點(diǎn):

  • gpt4 太貴了猛蔽!太貴了!太貴了灵寺!3.5效果不佳
  • 由于token限制枢舶,給頁面樹和歷史決策,很明顯會遇到token溢出的問題替久,可以通過限制歷史決策的記錄長度解決,但后果是會降智躏尉。

展望

誰也沒想到蚯根,才過了一年,大模型的進(jìn)化速度如此之快胀糜;目前來說颅拦,這個(gè)工具的問題,大部分都是大模型當(dāng)下技術(shù)的局限性導(dǎo)致教藻,但我相信距帅,未來一定是全智能化的測試方向,也許最終括堤,我們給到工具的測試指令就是一句話:“這里有個(gè)app碌秸,你來測一下”

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末绍移,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子讥电,更是在濱河造成了極大的恐慌蹂窖,老刑警劉巖,帶你破解...
    沈念sama閱讀 216,372評論 6 498
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件恩敌,死亡現(xiàn)場離奇詭異瞬测,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)纠炮,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,368評論 3 392
  • 文/潘曉璐 我一進(jìn)店門月趟,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人恢口,你說我怎么就攤上這事孝宗。” “怎么了弧蝇?”我有些...
    開封第一講書人閱讀 162,415評論 0 353
  • 文/不壞的土叔 我叫張陵碳褒,是天一觀的道長。 經(jīng)常有香客問我看疗,道長沙峻,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,157評論 1 292
  • 正文 為了忘掉前任两芳,我火速辦了婚禮摔寨,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘怖辆。我一直安慰自己是复,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,171評論 6 388
  • 文/花漫 我一把揭開白布竖螃。 她就那樣靜靜地躺著淑廊,像睡著了一般。 火紅的嫁衣襯著肌膚如雪特咆。 梳的紋絲不亂的頭發(fā)上季惩,一...
    開封第一講書人閱讀 51,125評論 1 297
  • 那天,我揣著相機(jī)與錄音腻格,去河邊找鬼画拾。 笑死,一個(gè)胖子當(dāng)著我的面吹牛菜职,可吹牛的內(nèi)容都是我干的青抛。 我是一名探鬼主播,決...
    沈念sama閱讀 40,028評論 3 417
  • 文/蒼蘭香墨 我猛地睜開眼酬核,長吁一口氣:“原來是場噩夢啊……” “哼蜜另!你這毒婦竟也來了适室?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 38,887評論 0 274
  • 序言:老撾萬榮一對情侶失蹤蚕钦,失蹤者是張志新(化名)和其女友劉穎亭病,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體嘶居,經(jīng)...
    沈念sama閱讀 45,310評論 1 310
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡罪帖,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,533評論 2 332
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了邮屁。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片整袁。...
    茶點(diǎn)故事閱讀 39,690評論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖佑吝,靈堂內(nèi)的尸體忽然破棺而出坐昙,到底是詐尸還是另有隱情,我是刑警寧澤芋忿,帶...
    沈念sama閱讀 35,411評論 5 343
  • 正文 年R本政府宣布炸客,位于F島的核電站,受9級特大地震影響戈钢,放射性物質(zhì)發(fā)生泄漏痹仙。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,004評論 3 325
  • 文/蒙蒙 一殉了、第九天 我趴在偏房一處隱蔽的房頂上張望开仰。 院中可真熱鬧,春花似錦薪铜、人聲如沸众弓。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,659評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽谓娃。三九已至,卻和暖如春蜒滩,著一層夾襖步出監(jiān)牢的瞬間滨达,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,812評論 1 268
  • 我被黑心中介騙來泰國打工帮掉, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人窒典。 一個(gè)月前我還...
    沈念sama閱讀 47,693評論 2 368
  • 正文 我出身青樓蟆炊,卻偏偏與公主長得像,于是被迫代替她去往敵國和親瀑志。 傳聞我的和親對象是個(gè)殘疾皇子涩搓,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,577評論 2 353

推薦閱讀更多精彩內(nèi)容