Django系列 5:ORM之prefetch_related 方法

Django之Model操作之prefetch_related的應用

參考博客:?Django操作進階與查詢優(yōu)化

對于多對多字段(ManyToManyField)和一對多字段润歉,可以使用prefetch_related()來進行優(yōu)化治力。

作用和方法:

prefetch_related()和select_related()的設(shè)計目的很相似,都是為了減少SQL查詢的數(shù)量,但是實現(xiàn)的方式不一樣线脚。后者是通過JOIN語句,在SQL查詢內(nèi)解決問題技肩。

但是對于多對多關(guān)系撇吞,使用SQL語句解決就顯得有些不太明智,因為JOIN得到的表將會很長堆巧,會導致SQL語句運行時間的增加和內(nèi)存占用的增加妄荔。若有n個對象,每個對象的多對多字段對應Mi條谍肤,就會生成Σ(n)Mi 行的結(jié)果表啦租。


關(guān)于prefetch_related 使用方法的不同造成 SQL查詢語句的不同:

1: 不帶任何參數(shù), model.objects.prefetch_related().all()

假設(shè)查詢的結(jié)果有n個?Person 對象

a:多對多,? 這種情況荒揣,會造成若干次查詢刷钢,那么共查詢1 + n 次SQL(本例查詢有2個?Person 對象),除了第一次查詢?Person對應的表乳附,其他的SQL使用了?JOIN ON 來對關(guān)聯(lián)表(?orm_practice_person_visitation?)查詢

b:直接外鍵内地,?這種情況,會造成若1 + n次查詢赋除,?除了第一次查詢阱缓,其他次都是正常的where id=xxx 的普通查詢

c:?外鍵的外鍵,這種情況举农,會造成若1 + 2 * n次查詢荆针,?除了第一次查詢,其他每個對象都會單獨查詢2次(外鍵與外鍵的外鍵關(guān)聯(lián)表)的where id=xxx 的普通查詢

查詢1:多對多

person_objs = Person.objects.prefetch_related().filter(firstname__contains='蘭').all()??

# person_objs = Person.objects.prefetch_related().all()

for p in person_objs:

????????????for i in p.visitation.all():? ??#? 多對多

????????????????????????print(i.name)

[2021-11-06 13:09:02,797] [utils.py:123] [utils:debug_sql] DEBUG (0.000) SELECT `orm_practice_person`.`id`, `orm_practice_person`.`firstname`, `orm_practice_person`.`lastname`, `orm_practice_person`.`needs_id`, `orm_practice_person`.`hometown_id`, `orm_practice_person`.`living_id` FROM `orm_practice_person` WHERE `orm_practice_person`.`firstname` LIKE BINARY '%蘭%'; args=('%蘭%',)

[2021-11-06 13:09:02,799] [utils.py:123] [utils:debug_sql] DEBUG (0.000) SELECT `orm_practice_city`.`id`, `orm_practice_city`.`name`, `orm_practice_city`.`province_id` FROM `orm_practice_city` INNER JOIN `orm_practice_person_visitation` ON (`orm_practice_city`.`id` = `orm_practice_person_visitation`.`city_id`) WHERE `orm_practice_person_visitation`.`person_id` = 13; args=(13,)

[2021-11-06 13:09:02,800] [utils.py:123] [utils:debug_sql] DEBUG (0.000) SELECT `orm_practice_city`.`id`, `orm_practice_city`.`name`, `orm_practice_city`.`province_id` FROM `orm_practice_city` INNER JOIN `orm_practice_person_visitation` ON (`orm_practice_city`.`id` = `orm_practice_person_visitation`.`city_id`) WHERE `orm_practice_person_visitation`.`person_id` = 17; args=(17,)

查詢2:外鍵

person_objs = Person.objects.prefetch_related().filter(firstname__contains='蘭')

for p in person_objs:

????????????print(p.hometown.name)

? ? ? ? ? ? # print(p.needs.orderinfo)

[2021-11-06 13:42:37,332] [utils.py:123] [utils:debug_sql] DEBUG (0.000) SELECT `orm_practice_person`.`id`, `orm_practice_person`.`firstname`, `orm_practice_person`.`lastname`, `orm_practice_person`.`needs_id`, `orm_practice_person`.`hometown_id`, `orm_practice_person`.`living_id` FROM `orm_practice_person` WHERE `orm_practice_person`.`firstname` LIKE BINARY '%蘭%'; args=('%蘭%',)

[2021-11-06 13:42:37,333] [utils.py:123] [utils:debug_sql] DEBUG (0.000) SELECT `orm_practice_order`.`id`, `orm_practice_order`.`customer_id`, `orm_practice_order`.`orderinfo`, `orm_practice_order`.`time` FROM `orm_practice_order` WHERE `orm_practice_order`.`id` = 23 LIMIT 21; args=(23,)

[2021-11-06 13:42:37,334] [utils.py:123] [utils:debug_sql] DEBUG (0.000) SELECT `orm_practice_order`.`id`, `orm_practice_order`.`customer_id`, `orm_practice_order`.`orderinfo`, `orm_practice_order`.`time` FROM `orm_practice_order` WHERE `orm_practice_order`.`id` = 36 LIMIT 21; args=(36,)

查詢3:外鍵的外鍵

person_objs = Person.objects.prefetch_related("hometown__province").filter(firstname__contains='蘭')

for pin person_objs:

????????????print(p.hometown.province.name)

[2021-11-06 13:52:54,060] [utils.py:123] [utils:debug_sql] DEBUG (0.000) SELECT `orm_practice_person`.`id`, `orm_practice_person`.`firstname`, `orm_practice_person`.`lastname`, `orm_practice_person`.`needs_id`, `orm_practice_person`.`hometown_id`, `orm_practice_person`.`living_id` FROM `orm_practice_person` WHERE `orm_practice_person`.`firstname` LIKE BINARY '%蘭%'; args=('%蘭%',)

[2021-11-06 13:52:54,062] [utils.py:123] [utils:debug_sql] DEBUG (0.000) SELECT `orm_practice_city`.`id`, `orm_practice_city`.`name`, `orm_practice_city`.`province_id` FROM `orm_practice_city` WHERE `orm_practice_city`.`id` = 33 LIMIT 21; args=(33,)

[2021-11-06 13:52:54,063] [utils.py:123] [utils:debug_sql] DEBUG (0.000) SELECT `orm_practice_province`.`id`, `orm_practice_province`.`name` FROM `orm_practice_province` WHERE `orm_practice_province`.`id` = 33 LIMIT 21; args=(33,)

[2021-11-06 13:52:54,064] [utils.py:123] [utils:debug_sql] DEBUG (0.000) SELECT `orm_practice_city`.`id`, `orm_practice_city`.`name`, `orm_practice_city`.`province_id` FROM `orm_practice_city` WHERE `orm_practice_city`.`id` = 47 LIMIT 21; args=(47,)

[2021-11-06 13:52:54,064] [utils.py:123] [utils:debug_sql] DEBUG (0.000) SELECT `orm_practice_province`.`id`, `orm_practice_province`.`name` FROM `orm_practice_province` WHERE `orm_practice_province`.`id` = 47 LIMIT 21; args=(47,)


2:帶參數(shù),model.objects.prefetch_related(*lookups).all()

假設(shè)查詢的結(jié)果有n個??Person 對象

a: 多對多航背,這種情況喉悴,會造成2次查詢,并且第二次使用?JOIN ON? +?IN?來對關(guān)聯(lián)表(?orm_practice_person_visitation?)查詢

b:直接外鍵玖媚,這種情況箕肃,會造成2次查詢,并且第二次使用 IN?來對關(guān)聯(lián)表(?orm_practice_city ,??orm_practice_province)查詢

c:?直接外鍵的外鍵今魔,?這種情況勺像,?會造成3次查詢,并且第二次通過IN查詢外鍵關(guān)聯(lián)的表?(orm_practice_city)错森、第三次通過 IN?查詢外鍵的外鍵關(guān)聯(lián)的表(orm_practice_province )

查詢1:多對多

person_objs = Person.objects.prefetch_related("visitation").filter(firstname__contains='蘭').all()

# person_objs = Person.objects.prefetch_related("visitation").all()

for p in person_objs:

????????????for i in p.visitation.all():

????????????????????????print(i.name)

[2021-11-06 13:18:52,754] [utils.py:123] [utils:debug_sql] DEBUG (0.000) SELECT `orm_practice_person`.`id`, `orm_practice_person`.`firstname`, `orm_practice_person`.`lastname`, `orm_practice_person`.`needs_id`, `orm_practice_person`.`hometown_id`, `orm_practice_person`.`living_id` FROM `orm_practice_person` WHERE `orm_practice_person`.`firstname` LIKE BINARY '%蘭%'; args=('%蘭%',)

[2021-11-06 13:18:52,756] [utils.py:123] [utils:debug_sql] DEBUG (0.000) SELECT (`orm_practice_person_visitation`.`person_id`) AS `_prefetch_related_val_person_id`, `orm_practice_city`.`id`, `orm_practice_city`.`name`, `orm_practice_city`.`province_id` FROM `orm_practice_city` INNER JOIN `orm_practice_person_visitation` ON (`orm_practice_city`.`id` = `orm_practice_person_visitation`.`city_id`) WHERE `orm_practice_person_visitation`.`person_id` IN (13, 17); args=(13, 17)

查詢2:外鍵

person_objs = Person.objects.prefetch_related().filter(firstname__contains='蘭')

for p in person_objs:

????????????print(p.hometown.name)

? ? ? ? ? ? # print(p.needs.orderinfo)

[2021-11-06 13:45:01,121] [utils.py:123] [utils:debug_sql] DEBUG (0.000) SELECT `orm_practice_person`.`id`, `orm_practice_person`.`firstname`, `orm_practice_person`.`lastname`, `orm_practice_person`.`needs_id`, `orm_practice_person`.`hometown_id`, `orm_practice_person`.`living_id` FROM `orm_practice_person` WHERE `orm_practice_person`.`firstname` LIKE BINARY '%蘭%'; args=('%蘭%',)

[2021-11-06 13:45:01,122] [utils.py:123] [utils:debug_sql] DEBUG (0.000) SELECT `orm_practice_order`.`id`, `orm_practice_order`.`customer_id`, `orm_practice_order`.`orderinfo`, `orm_practice_order`.`time` FROM `orm_practice_order` WHERE `orm_practice_order`.`id` IN (36, 23); args=(36, 23)

查詢3:外鍵的外鍵

person_objs = Person.objects.prefetch_related("hometown__province").filter(firstname__contains='蘭')

for pin person_objs:

????????????print(p.hometown.province.name)

[2021-11-06 13:46:48,447] [utils.py:123] [utils:debug_sql] DEBUG (0.000) SELECT `orm_practice_person`.`id`, `orm_practice_person`.`firstname`, `orm_practice_person`.`lastname`, `orm_practice_person`.`needs_id`, `orm_practice_person`.`hometown_id`, `orm_practice_person`.`living_id` FROM `orm_practice_person` WHERE `orm_practice_person`.`firstname` LIKE BINARY '%蘭%'; args=('%蘭%',)

[2021-11-06 13:46:48,449] [utils.py:123] [utils:debug_sql] DEBUG (0.000) SELECT `orm_practice_city`.`id`, `orm_practice_city`.`name`, `orm_practice_city`.`province_id` FROM `orm_practice_city` WHERE `orm_practice_city`.`id` IN (33, 47); args=(33, 47)

[2021-11-06 13:46:48,450] [utils.py:123] [utils:debug_sql] DEBUG (0.000) SELECT `orm_practice_province`.`id`, `orm_practice_province`.`name` FROM `orm_practice_province` WHERE `orm_practice_province`.`id` IN (33, 47); args=(33, 47)

注意 QuerySet是lazy的吟宦,要用的時候才會去訪問數(shù)據(jù)庫。運行到第二行Python代碼時涩维,for循環(huán)將plist看做iterator殃姓,這會觸發(fā)數(shù)據(jù)庫查詢。最初的兩次SQL查詢就是prefetch_related導致的瓦阐。

雖然已經(jīng)查詢結(jié)果中包含所有所需的city的信息辰狡,但因為在循環(huán)體中對Person.visitation進行了filter操作,這顯然改變了數(shù)據(jù)庫請求垄分。因此這些操作會忽略掉之前緩存到的數(shù)據(jù)狡门,重新進行SQL查詢险掀。

常用使用方法:

1:model.objects.prefetch_related()

2:model.objects.prefetch_related('外鍵')

3:model.objects.prefetch_related('外鍵__外鍵')

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末亡哄,一起剝皮案震驚了整個濱河市象颖,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌豺瘤,老刑警劉巖吆倦,帶你破解...
    沈念sama閱讀 206,378評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異坐求,居然都是意外死亡蚕泽,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,356評論 2 382
  • 文/潘曉璐 我一進店門桥嗤,熙熙樓的掌柜王于貴愁眉苦臉地迎上來须妻,“玉大人,你說我怎么就攤上這事泛领』睦簦” “怎么了?”我有些...
    開封第一講書人閱讀 152,702評論 0 342
  • 文/不壞的土叔 我叫張陵渊鞋,是天一觀的道長绰更。 經(jīng)常有香客問我瞧挤,道長,這世上最難降的妖魔是什么儡湾? 我笑而不...
    開封第一講書人閱讀 55,259評論 1 279
  • 正文 為了忘掉前任特恬,我火速辦了婚禮,結(jié)果婚禮上徐钠,老公的妹妹穿的比我還像新娘癌刽。我一直安慰自己,他們只是感情好丹皱,可當我...
    茶點故事閱讀 64,263評論 5 371
  • 文/花漫 我一把揭開白布妒穴。 她就那樣靜靜地躺著宋税,像睡著了一般摊崭。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上杰赛,一...
    開封第一講書人閱讀 49,036評論 1 285
  • 那天呢簸,我揣著相機與錄音,去河邊找鬼乏屯。 笑死根时,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的辰晕。 我是一名探鬼主播蛤迎,決...
    沈念sama閱讀 38,349評論 3 400
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼含友!你這毒婦竟也來了替裆?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 36,979評論 0 259
  • 序言:老撾萬榮一對情侶失蹤窘问,失蹤者是張志新(化名)和其女友劉穎辆童,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體惠赫,經(jīng)...
    沈念sama閱讀 43,469評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡把鉴,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 35,938評論 2 323
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了儿咱。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片庭砍。...
    茶點故事閱讀 38,059評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖混埠,靈堂內(nèi)的尸體忽然破棺而出逗威,到底是詐尸還是另有隱情,我是刑警寧澤岔冀,帶...
    沈念sama閱讀 33,703評論 4 323
  • 正文 年R本政府宣布凯旭,位于F島的核電站概耻,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏罐呼。R本人自食惡果不足惜鞠柄,卻給世界環(huán)境...
    茶點故事閱讀 39,257評論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望嫉柴。 院中可真熱鬧厌杜,春花似錦、人聲如沸计螺。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,262評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽登馒。三九已至匙握,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間陈轿,已是汗流浹背圈纺。 一陣腳步聲響...
    開封第一講書人閱讀 31,485評論 1 262
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留麦射,地道東北人蛾娶。 一個月前我還...
    沈念sama閱讀 45,501評論 2 354
  • 正文 我出身青樓,卻偏偏與公主長得像潜秋,于是被迫代替她去往敵國和親蛔琅。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 42,792評論 2 345

推薦閱讀更多精彩內(nèi)容