scrapy_redis中序列化源碼及其在程序設(shè)計中的應(yīng)用

序列化 (Serialization)是將對象的狀態(tài)信息轉(zhuǎn)換為可以存儲或傳輸?shù)男问降倪^程惫搏。在序列化期間,對象將其當前狀態(tài)寫入到臨時或持久性存儲區(qū)剿配。以后症见,可以通過從存儲區(qū)中讀取或反序列化對象的狀態(tài),重新創(chuàng)建該對象捺弦。

在scrapy_redis中饮寞,一個Request對象先經(jīng)過DupeFilter去重孝扛,然后遞交給scheduler調(diào)度儲存在Redis中,這就面臨一個問題幽崩,Request是一個對象苦始,Redis不能存儲該對象,這時就需要將request序列化儲存慌申。

scrapy中序列化模塊如下:

from scrapy_redis import picklecompat

"""A pickle wrapper module with protocol=-1 by default."""

try:
    import cPickle as pickle  # PY2
except ImportError:
    import pickle

def loads(s):
    return pickle.loads(s)

def dumps(obj):
    return pickle.dumps(obj, protocol=-1)

當然python3直接使用pickle模塊陌选, 已經(jīng)沒有cPickle,該模塊最為重要的兩個方法蹄溉,序列化與反序列化如上咨油,通過序列化后的對象我們可以存儲在數(shù)據(jù)庫、文本等文件中柒爵,并快速恢復(fù)役电。

同時模式設(shè)計中的備忘錄模式通過這種方式達到最佳效果《python設(shè)計模式(十九):備忘錄模式》;可序列化的對象和數(shù)據(jù)類型如下:

  • None, True,False
  • 整數(shù)棉胀,長整數(shù)法瑟,浮點數(shù),復(fù)數(shù)
  • 普通字符串和Unicode字符串
  • 元組膏蚓、列表瓢谢、集合和字典畸写,只包含可選擇的對象驮瞧。
  • 在模塊頂層定義的函數(shù)
  • 在模塊頂層定義的內(nèi)置函數(shù)
  • 在模塊的頂層定義的類。
  • 這些類的實例

嘗試對不可序列化對象進行操作枯芬,將引發(fā)PicklingError異常论笔;發(fā)生這種情況時,可能已經(jīng)將未指定的字節(jié)數(shù)寫入基礎(chǔ)文件千所。嘗試選擇高度遞歸的數(shù)據(jù)結(jié)構(gòu)可能會超過最大遞歸深度狂魔,RuntimeError在這種情況下會被提起。

模塊API

pickle.dump(obj, file[, protocol])

  • Write a pickled representation of obj to the open file object file. This is equivalent to Pickler(file,``protocol).dump(obj).
    If the protocol parameter is omitted, protocol 0 is used. If protocol is specified as a negative value or HIGHEST_PROTOCOL, the highest protocol version will be used.
    *Changed in version 2.3: *Introduced the protocol parameter.
    file must have a write() method that accepts a single string argument. It can thus be a file object opened for writing, a StringIO object, or any other custom object that meets this interface.
  • pickle.load(file)
  • Read a string from the open file object file and interpret it as a pickle data stream, reconstructing and returning the original object hierarchy. This is equivalent to Unpickler(file).load().
    file must have two methods, a read() method that takes an integer argument, and a readline() method that requires no arguments. Both methods should return a string. Thus file can be a file object opened for reading, a StringIO object, or any other custom object that meets this interface.
    This function automatically determines whether the data stream was written in binary mode or not.
  • pickle.dumps(obj[, protocol])
  • Return the pickled representation of the object as a string, instead of writing it to a file.
    If the protocol parameter is omitted, protocol 0 is used. If protocol is specified as a negative value or HIGHEST_PROTOCOL, the highest protocol version will be used.
    *Changed in version 2.3: *The protocol parameter was added.
  • pickle.loads(string)
  • Read a pickled object hierarchy from a string. Characters in the string past the pickled object’s representation are ignored.

至于應(yīng)用場景淫痰,比較常見的有如下幾種:

程序重啟時恢復(fù)上次的狀態(tài)最楷、會話存儲、對象的網(wǎng)絡(luò)傳輸待错。

image
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末籽孙,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子火俄,更是在濱河造成了極大的恐慌犯建,老刑警劉巖,帶你破解...
    沈念sama閱讀 219,110評論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件瓜客,死亡現(xiàn)場離奇詭異适瓦,居然都是意外死亡竿开,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,443評論 3 395
  • 文/潘曉璐 我一進店門玻熙,熙熙樓的掌柜王于貴愁眉苦臉地迎上來否彩,“玉大人,你說我怎么就攤上這事嗦随「旄悖” “怎么了?”我有些...
    開封第一講書人閱讀 165,474評論 0 356
  • 文/不壞的土叔 我叫張陵称杨,是天一觀的道長肌毅。 經(jīng)常有香客問我,道長姑原,這世上最難降的妖魔是什么悬而? 我笑而不...
    開封第一講書人閱讀 58,881評論 1 295
  • 正文 為了忘掉前任,我火速辦了婚禮锭汛,結(jié)果婚禮上笨奠,老公的妹妹穿的比我還像新娘。我一直安慰自己唤殴,他們只是感情好般婆,可當我...
    茶點故事閱讀 67,902評論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著朵逝,像睡著了一般蔚袍。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上配名,一...
    開封第一講書人閱讀 51,698評論 1 305
  • 那天啤咽,我揣著相機與錄音,去河邊找鬼渠脉。 笑死宇整,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的芋膘。 我是一名探鬼主播鳞青,決...
    沈念sama閱讀 40,418評論 3 419
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼为朋!你這毒婦竟也來了臂拓?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,332評論 0 276
  • 序言:老撾萬榮一對情侶失蹤潜腻,失蹤者是張志新(化名)和其女友劉穎埃儿,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體融涣,經(jīng)...
    沈念sama閱讀 45,796評論 1 316
  • 正文 獨居荒郊野嶺守林人離奇死亡童番,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,968評論 3 337
  • 正文 我和宋清朗相戀三年精钮,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片剃斧。...
    茶點故事閱讀 40,110評論 1 351
  • 序言:一個原本活蹦亂跳的男人離奇死亡轨香,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出幼东,到底是詐尸還是另有隱情臂容,我是刑警寧澤,帶...
    沈念sama閱讀 35,792評論 5 346
  • 正文 年R本政府宣布根蟹,位于F島的核電站脓杉,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏简逮。R本人自食惡果不足惜球散,卻給世界環(huán)境...
    茶點故事閱讀 41,455評論 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望散庶。 院中可真熱鬧蕉堰,春花似錦、人聲如沸悲龟。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,003評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽须教。三九已至皿渗,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間没卸,已是汗流浹背羹奉。 一陣腳步聲響...
    開封第一講書人閱讀 33,130評論 1 272
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留约计,地道東北人。 一個月前我還...
    沈念sama閱讀 48,348評論 3 373
  • 正文 我出身青樓迁筛,卻偏偏與公主長得像煤蚌,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子细卧,可洞房花燭夜當晚...
    茶點故事閱讀 45,047評論 2 355

推薦閱讀更多精彩內(nèi)容