如何利用Golang為Python編寫模塊

前言

? 由于公司的Python項(xiàng)目中有關(guān)于支付簽名與驗(yàn)簽的模塊,是自定的一些內(nèi)部邏輯,基于安全性考慮, 希望改用C/C++或者Go 來重構(gòu)該部分模塊,做到加解簽過程透明,上層代碼只需要關(guān)心結(jié)果. 由于最近開始了Golang的學(xué)習(xí),就嘗試完成這部分工作,整個(gè)過程都是邊踩坑邊完成,下面以樣例代碼來分享一下整個(gè)過程的思路.

記錄

? Go里面需要顯示的引入C模塊, 讓編譯器支持生成動(dòng)態(tài)鏈接庫, 并且在代碼中可以使用C語言的數(shù)據(jù)類型,這個(gè)至關(guān)重要. Calling Go code from Python code 摘取一個(gè)最簡單例子

//libadd.go
package main

import "C"

//export add
func add(left, right int) int {
    return left + right
}

func main() {
}
go build -buildmode=c-shared -o libadd.so libadd.go
from ctypes import cdll
lib = cdll.LoadLibrary('./libadd.so')
print("Loaded go generated SO library")
result = lib.add(2, 3)
print(result)

The cgo export command is documented in go doc cgo, section "C references to Go". Essentially, write //export FUNCNAME before the function definition

有這么一段話, 需要顯式注釋//export add 把 add函數(shù)公開給C調(diào)用

本以為很簡單的就能用, 興致滿滿地把例子改一下, 改為簡單的處理字符串的時(shí)候, 卻發(fā)現(xiàn)跑不起來了.

//libadd.go
package main

import "C"

//export add
func add(left, right string) string {
    return left + right
}

func main() {
}
from ctypes import CDLL
lib = CDLL('./libadd.so')
print("Loaded go generated SO library")
result = lib.add("Hello", "World")
print(result)
  • 這時(shí)候運(yùn)行是出錯(cuò)的

再次翻看資料發(fā)現(xiàn)這么一句話:

The python code is really short and this is only passing an integer back and forth (more complex string and struct cases are much more challenging).

這說明處理字符串的時(shí)候并不是簡單改成string類型就可以.這時(shí)候翻開了BUILDING PYTHON MODULES WITH GO 1.5 , 這時(shí)能找到的最全面的資料, 可惜里面的過程都過于復(fù)雜, 整個(gè)思路是用Go去寫C code, 類似寫解釋器一樣, 去抽象出PyObject然后按照API標(biāo)準(zhǔn)來注冊(cè)、處理项秉、返回.我僅是希望以動(dòng)態(tài)鏈接庫 的方式來能調(diào)用就可以了.

我開始思考, 為何例子中使用int類型就可以, 我改成一個(gè)簡單的接收string 返回string 卻一直失敗. py是利用ctypes來跟so模塊進(jìn)行交互, 這里存在一個(gè)代碼的翻譯過程 Py -> C -> Go, 我能想到的對(duì)于字符串?dāng)?shù)據(jù)類型的處理不一樣原因引起(后面事實(shí)證明了我的猜想).那么思考一下, Py中的字符串傳遞到Go里面去使用什么類型來接收呢? 翻閱了大量資料, 所有答案在Python Doc 官網(wǎng)關(guān)于ctypes模塊中有能找到.我們來看一下這圖:

001.png

這里可以很清楚的看到Python3 ctypes中字符串 bytesstring 是對(duì)應(yīng)的兩種指針類型.同時(shí)提供了argtypesrestype 來顯式轉(zhuǎn)換動(dòng)態(tài)鏈接庫中函數(shù)的參數(shù)和返回類型.(參考StackOverFlow)

這時(shí)候按照思考的流程來修改代碼

//libadd.go
package main

import "C"

//export add
func add(left, right *C.char) *C.char {
    // bytes對(duì)應(yīng)ctypes的c_char_p類型,翻譯成C類型就是 char *指針
    merge := C.GoString(left) + C.GoString(right)
    return C.CString(merge)
}

func main() {}

重新編譯

go build -buildmode=c-shared -o libadd.so libadd.go

Python中引用

import ctypes
add = ctypes.CDLL('./libadd.so').add
# 顯式聲明參數(shù)和返回的期望類型
add.argtypes = [ctypes.c_char_p, ctypes.c_char_p]
add.restype = ctypes.c_char_p
left = b"Hello"
right = b"World"
print(add(left, right))

正確輸出結(jié)果:

b"HelloWorld"

就這樣, 一個(gè)基本的模塊就完成, 只要關(guān)注傳入?yún)?shù)和返回結(jié)果的數(shù)據(jù)類型處理, 我只需要豐富函數(shù)的處理邏輯,Go模塊中函數(shù)內(nèi)部實(shí)現(xiàn)對(duì)于Python是透明,只要參數(shù)正確即可.其中關(guān)于 cgo更多的信息, 大家可以自行查閱Golang.org

總結(jié)

  1. Python與Go之間的參數(shù)傳遞, 處理非INT型時(shí)需要都轉(zhuǎn)為對(duì)應(yīng)的C類型
  2. ctypes需要顯式地聲明DLL函數(shù)的參數(shù)和返回期望的數(shù)據(jù)類型
  3. 注意在Python3中字符串bytes和string的區(qū)別
  4. Go模塊需要//export 聲明外部可調(diào)用
  5. Go處理C的類型是需要顯式轉(zhuǎn)換
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末俘侠,一起剝皮案震驚了整個(gè)濱河市罩润,隨后出現(xiàn)的幾起案子窜锯,更是在濱河造成了極大的恐慌风题,老刑警劉巖赃蛛,帶你破解...
    沈念sama閱讀 217,542評(píng)論 6 504
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件夭谤,死亡現(xiàn)場離奇詭異,居然都是意外死亡隔盛,警方通過查閱死者的電腦和手機(jī)犹菱,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,822評(píng)論 3 394
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來骚亿,“玉大人,你說我怎么就攤上這事熊赖±赐溃” “怎么了?”我有些...
    開封第一講書人閱讀 163,912評(píng)論 0 354
  • 文/不壞的土叔 我叫張陵震鹉,是天一觀的道長俱笛。 經(jīng)常有香客問我,道長传趾,這世上最難降的妖魔是什么迎膜? 我笑而不...
    開封第一講書人閱讀 58,449評(píng)論 1 293
  • 正文 為了忘掉前任,我火速辦了婚禮浆兰,結(jié)果婚禮上磕仅,老公的妹妹穿的比我還像新娘珊豹。我一直安慰自己,他們只是感情好榕订,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,500評(píng)論 6 392
  • 文/花漫 我一把揭開白布店茶。 她就那樣靜靜地躺著,像睡著了一般劫恒。 火紅的嫁衣襯著肌膚如雪贩幻。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,370評(píng)論 1 302
  • 那天两嘴,我揣著相機(jī)與錄音丛楚,去河邊找鬼。 笑死憔辫,一個(gè)胖子當(dāng)著我的面吹牛趣些,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播螺垢,決...
    沈念sama閱讀 40,193評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼喧务,長吁一口氣:“原來是場噩夢(mèng)啊……” “哼!你這毒婦竟也來了枉圃?” 一聲冷哼從身側(cè)響起功茴,我...
    開封第一講書人閱讀 39,074評(píng)論 0 276
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎孽亲,沒想到半個(gè)月后坎穿,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,505評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡返劲,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,722評(píng)論 3 335
  • 正文 我和宋清朗相戀三年玲昧,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片篮绿。...
    茶點(diǎn)故事閱讀 39,841評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡孵延,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出亲配,到底是詐尸還是另有隱情尘应,我是刑警寧澤,帶...
    沈念sama閱讀 35,569評(píng)論 5 345
  • 正文 年R本政府宣布吼虎,位于F島的核電站犬钢,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏思灰。R本人自食惡果不足惜玷犹,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,168評(píng)論 3 328
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望洒疚。 院中可真熱鬧歹颓,春花似錦坯屿、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,783評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至电湘,卻和暖如春隔节,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背寂呛。 一陣腳步聲響...
    開封第一講書人閱讀 32,918評(píng)論 1 269
  • 我被黑心中介騙來泰國打工怎诫, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人贷痪。 一個(gè)月前我還...
    沈念sama閱讀 47,962評(píng)論 2 370
  • 正文 我出身青樓幻妓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親劫拢。 傳聞我的和親對(duì)象是個(gè)殘疾皇子肉津,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,781評(píng)論 2 354

推薦閱讀更多精彩內(nèi)容

  • Spring Cloud為開發(fā)人員提供了快速構(gòu)建分布式系統(tǒng)中一些常見模式的工具(例如配置管理,服務(wù)發(fā)現(xiàn)舱沧,斷路器妹沙,智...
    卡卡羅2017閱讀 134,656評(píng)論 18 139
  • http://python.jobbole.com/85231/ 關(guān)于專業(yè)技能寫完項(xiàng)目接著寫寫一名3年工作經(jīng)驗(yàn)的J...
    燕京博士閱讀 7,575評(píng)論 1 118
  • 個(gè)人筆記,方便自己查閱使用 Py.LangSpec.Contents Refs Built-in Closure ...
    freenik閱讀 67,703評(píng)論 0 5
  • 前言 Python的創(chuàng)始人為Guido van Rossum熟吏。1989年圣誕節(jié)期間距糖,在阿姆斯特丹,Guido為了打...
    依依玖玥閱讀 3,569評(píng)論 6 37
  • 兩本不錯(cuò)的書: 《Python參考手冊(cè)》:對(duì)Python各個(gè)標(biāo)準(zhǔn)模塊牵寺,特性介紹的比較詳細(xì)悍引。 《Python核心編程...
    靜熙老師哈哈哈閱讀 3,360評(píng)論 0 80