大師兄的Python源碼學(xué)習(xí)筆記(三十六): 模塊的動態(tài)加載機(jī)制(三)

大師兄的Python源碼學(xué)習(xí)筆記(三十五): 模塊的動態(tài)加載機(jī)制(二)
大師兄的Python源碼學(xué)習(xí)筆記(三十七): 模塊的動態(tài)加載機(jī)制(四)

三、import機(jī)制的實(shí)現(xiàn)

  • 通過黑盒探索,可以發(fā)現(xiàn)Python的import機(jī)制可分為三個不同的功能:
  1. Python運(yùn)行時的全局module pool的維護(hù)和搜索蕉拢;
  2. 解析與搜索module路徑的樹狀結(jié)構(gòu);
  3. 對不同文件格式的module的動態(tài)加載機(jī)制好乐。
  • 雖然Python中import的表現(xiàn)千變?nèi)f化营搅,但終歸可以總結(jié)為 import x.y.z的默認(rèn)形式掺炭。
  • 從前面的章節(jié)可以看到,import機(jī)制的起點(diǎn)是builtin module中的__import__操作法绵,也就是builtin__import___函數(shù):
Python\bltinmodule.c

static PyObject *
builtin___import__(PyObject *self, PyObject *args, PyObject *kwds)
{
    static char *kwlist[] = {"name", "globals", "locals", "fromlist",
                             "level", 0};
    PyObject *name, *globals = NULL, *locals = NULL, *fromlist = NULL;
    int level = 0;

    if (!PyArg_ParseTupleAndKeywords(args, kwds, "U|OOOi:__import__",
                    kwlist, &name, &globals, &locals, &fromlist, &level))
        return NULL;
    return PyImport_ImportModuleLevelObject(name, globals, locals,
                                            fromlist, level);
}
  • 可以看出在這里的PyArg_ParseTupleAndKeywords函數(shù)是核心箕速,它的功能是將argskwds中所包含的所有對象按format中指定的格式解析成各種目標(biāo)對象:
Python\getargs.c

/* Support for keyword arguments donated by
   Geoff Philbrick <philbric@delphi.hks.com> */

/* Return false (0) for error, else true. */
int
PyArg_ParseTupleAndKeywords(PyObject *args,
                            PyObject *keywords,
                            const char *format,
                            char **kwlist, ...)
{
    int retval;
    va_list va;

    if ((args == NULL || !PyTuple_Check(args)) ||
        (keywords != NULL && !PyDict_Check(keywords)) ||
        format == NULL ||
        kwlist == NULL)
    {
        PyErr_BadInternalCall();
        return 0;
    }

    va_start(va, kwlist);
    retval = vgetargskeywords(args, keywords, format, kwlist, &va, 0);
    va_end(va);
    return retval;
}
  • 所謂目標(biāo)對象可以是Python中的對象,也可以是C的原生類型朋譬。
  • 這里的args參數(shù)實(shí)際上是一個PyTupleObject對象盐茎,包含了builtin__import__函數(shù)運(yùn)行所需要的所有參數(shù)和信息,它是虛擬機(jī)在執(zhí)行IMPORT_NAME指令時打包產(chǎn)生的徙赢,這里虛擬機(jī)進(jìn)行了一個逆動作字柠,即將PyTupleObject對象拆開,重新獲得當(dāng)初的參數(shù)狡赐。
  • 指令解析格式的format參數(shù)中可用的格式字符非常多窑业,這里簡單介紹builtin___import__用到的字符:
{"name", "globals", "locals", "fromlist","level", 0}
U|OOOi:__import__

U:代表目標(biāo)對象是一個char*,用來將tuple中的PyUnicodeObject對象解析成char*枕屉。
i:用來將tuple中的PyIntObject對象解析為int類型的值常柄。
O:代表解析的目標(biāo)對象依然是一個Python中的核發(fā)對象,通常表示不進(jìn)行任何解析和轉(zhuǎn)換。
|:非格式字符西潘,表示其后所帶的格式字符是可選的铜异。
::指示格式字符到此結(jié)束,其后所帶的字符串用于在解析過程中出錯時輸出錯誤信息時使用秸架。

  • 在完成拆包動作后,Python進(jìn)入了PyImport_ImportModuleLevelObject:
Python\import.c

PyObject *
PyImport_ImportModuleLevelObject(PyObject *name, PyObject *globals,
                                 PyObject *locals, PyObject *fromlist,
                                 int level)
{
    _Py_IDENTIFIER(_handle_fromlist);
    PyObject *abs_name = NULL;
    PyObject *final_mod = NULL;
    PyObject *mod = NULL;
    PyObject *package = NULL;
    PyInterpreterState *interp = PyThreadState_GET()->interp;
    int has_from;
    ... ...
    mod = PyImport_GetModule(abs_name);
    if (mod != NULL && mod != Py_None) {
        _Py_IDENTIFIER(__spec__);
        _Py_IDENTIFIER(_initializing);
        _Py_IDENTIFIER(_lock_unlock_module);
        PyObject *value = NULL;
        PyObject *spec;
        int initializing = 0;

        /* Optimization: only call _bootstrap._lock_unlock_module() if
           __spec__._initializing is true.
           NOTE: because of this, initializing must be set *before*
           stuffing the new module in sys.modules.
         */
        spec = _PyObject_GetAttrId(mod, &PyId___spec__);
        if (spec != NULL) {
            value = _PyObject_GetAttrId(spec, &PyId__initializing);
            Py_DECREF(spec);
        }
        if (value == NULL)
            PyErr_Clear();
        else {
            initializing = PyObject_IsTrue(value);
            Py_DECREF(value);
            if (initializing == -1)
                PyErr_Clear();
            if (initializing > 0) {
                value = _PyObject_CallMethodIdObjArgs(interp->importlib,
                                                &PyId__lock_unlock_module, abs_name,
                                                NULL);
                if (value == NULL)
                    goto error;
                Py_DECREF(value);
            }
        }
    }
    else {
        Py_XDECREF(mod);
        mod = import_find_and_load(abs_name);
        if (mod == NULL) {
            goto error;
        }
    }

    has_from = 0;
    if (fromlist != NULL && fromlist != Py_None) {
        has_from = PyObject_IsTrue(fromlist);
        if (has_from < 0)
            goto error;
    }
    if (!has_from) {
        Py_ssize_t len = PyUnicode_GET_LENGTH(name);
        if (level == 0 || len > 0) {
            Py_ssize_t dot;

            dot = PyUnicode_FindChar(name, '.', 0, len, 1);
            if (dot == -2) {
                goto error;
            }

            if (dot == -1) {
                /* No dot in module name, simple exit */
                final_mod = mod;
                Py_INCREF(mod);
                goto error;
            }

            if (level == 0) {
                PyObject *front = PyUnicode_Substring(name, 0, dot);
                if (front == NULL) {
                    goto error;
                }

                final_mod = PyImport_ImportModuleLevelObject(front, NULL, NULL, NULL, 0);
                Py_DECREF(front);
            }
            else {
                Py_ssize_t cut_off = len - dot;
                Py_ssize_t abs_name_len = PyUnicode_GET_LENGTH(abs_name);
                PyObject *to_return = PyUnicode_Substring(abs_name, 0,
                                                        abs_name_len - cut_off);
                if (to_return == NULL) {
                    goto error;
                }

                final_mod = PyImport_GetModule(to_return);
                Py_DECREF(to_return);
                if (final_mod == NULL) {
                    PyErr_Format(PyExc_KeyError,
                                 "%R not in sys.modules as expected",
                                 to_return);
                    goto error;
                }
            }
        }
        else {
            final_mod = mod;
            Py_INCREF(mod);
        }
    }
    else {
        final_mod = _PyObject_CallMethodIdObjArgs(interp->importlib,
                                                  &PyId__handle_fromlist, mod,
                                                  fromlist, interp->import_func,
                                                  NULL);
    }
... ...
  • 在上面的代碼中咆蒿,虛擬機(jī)會對import動作上鎖和解鎖东抹,目的是為了同步不同的線程對同一個moduleimport動作。
  • 代碼中的fromlist通常是Py_None,但當(dāng)Python虛擬機(jī)進(jìn)行類似from x impory y,z這樣的動作時沃测,fromlist就成為一個諸如(y,z)這樣的PyTupleObject對象缭黔。
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市蒂破,隨后出現(xiàn)的幾起案子馏谨,更是在濱河造成了極大的恐慌,老刑警劉巖附迷,帶你破解...
    沈念sama閱讀 221,198評論 6 514
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件惧互,死亡現(xiàn)場離奇詭異,居然都是意外死亡喇伯,警方通過查閱死者的電腦和手機(jī)喊儡,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,334評論 3 398
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來稻据,“玉大人艾猜,你說我怎么就攤上這事∧砻酰” “怎么了匆赃?”我有些...
    開封第一講書人閱讀 167,643評論 0 360
  • 文/不壞的土叔 我叫張陵,是天一觀的道長今缚。 經(jīng)常有香客問我算柳,道長,這世上最難降的妖魔是什么荚斯? 我笑而不...
    開封第一講書人閱讀 59,495評論 1 296
  • 正文 為了忘掉前任埠居,我火速辦了婚禮,結(jié)果婚禮上事期,老公的妹妹穿的比我還像新娘滥壕。我一直安慰自己,他們只是感情好兽泣,可當(dāng)我...
    茶點(diǎn)故事閱讀 68,502評論 6 397
  • 文/花漫 我一把揭開白布绎橘。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪称鳞。 梳的紋絲不亂的頭發(fā)上涮较,一...
    開封第一講書人閱讀 52,156評論 1 308
  • 那天,我揣著相機(jī)與錄音冈止,去河邊找鬼狂票。 笑死,一個胖子當(dāng)著我的面吹牛熙暴,可吹牛的內(nèi)容都是我干的闺属。 我是一名探鬼主播,決...
    沈念sama閱讀 40,743評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼周霉,長吁一口氣:“原來是場噩夢啊……” “哼掂器!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起俱箱,我...
    開封第一講書人閱讀 39,659評論 0 276
  • 序言:老撾萬榮一對情侶失蹤国瓮,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后狞谱,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體乃摹,經(jīng)...
    沈念sama閱讀 46,200評論 1 319
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,282評論 3 340
  • 正文 我和宋清朗相戀三年芋簿,在試婚紗的時候發(fā)現(xiàn)自己被綠了峡懈。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,424評論 1 352
  • 序言:一個原本活蹦亂跳的男人離奇死亡与斤,死狀恐怖肪康,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情撩穿,我是刑警寧澤磷支,帶...
    沈念sama閱讀 36,107評論 5 349
  • 正文 年R本政府宣布,位于F島的核電站食寡,受9級特大地震影響雾狈,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜抵皱,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,789評論 3 333
  • 文/蒙蒙 一善榛、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧呻畸,春花似錦移盆、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,264評論 0 23
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春叙甸,著一層夾襖步出監(jiān)牢的瞬間颖医,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,390評論 1 271
  • 我被黑心中介騙來泰國打工裆蒸, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留熔萧,地道東北人。 一個月前我還...
    沈念sama閱讀 48,798評論 3 376
  • 正文 我出身青樓僚祷,卻偏偏與公主長得像哪痰,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子久妆,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,435評論 2 359