實(shí)現(xiàn)非阻塞IO—select解析

一执桌、select原理

網(wǎng)絡(luò)通信被Unix系統(tǒng)抽象為文件的讀寫,通常是一個(gè)設(shè)備芜赌,由設(shè)備驅(qū)動(dòng)程序提供仰挣,驅(qū)動(dòng)可以知道自身的數(shù)據(jù)是否可用。支持阻塞操作的設(shè)備驅(qū)動(dòng)通常會實(shí)現(xiàn)一組自身的等待隊(duì)列较鼓,如讀/寫等待隊(duì)列用于支持上層(用戶層)所需的block或non-block操作椎木。設(shè)備的文件的資源如果可用(可讀或者可寫)則會通知進(jìn)程,反之則會讓進(jìn)程睡眠博烂,等到數(shù)據(jù)到來可用的時(shí)候,再喚醒進(jìn)程漱竖。

這些設(shè)備的文件描述符被放在一個(gè)數(shù)組中禽篱,然后select調(diào)用的時(shí)候遍歷這個(gè)數(shù)組,如果對于的文件描述符可讀則會返回改文件描述符馍惹。當(dāng)遍歷結(jié)束之后躺率,如果仍然沒有一個(gè)可用設(shè)備文件描述符玛界,select讓用戶進(jìn)程則會睡眠,直到等待資源可用的時(shí)候在喚醒悼吱,遍歷之前那個(gè)監(jiān)視的數(shù)組慎框。每次遍歷都是線性的。


二后添、select方法

Python的select()方法直接調(diào)用操作系統(tǒng)的IO接口笨枯,它監(jiān)控sockets,open files, and pipes(所有帶fileno()方法的文件句柄)何時(shí)變成readable 和writeable, 或者通信錯(cuò)誤,select()使得同時(shí)監(jiān)控多個(gè)連接變的簡單遇西,并且這比寫一個(gè)長循環(huán)來等待和監(jiān)控多客戶端連接要高效馅精,因?yàn)閟elect直接通過操作系統(tǒng)提供的C的網(wǎng)絡(luò)接口進(jìn)行操作,而不是通過Python的解釋器粱檀。

示例(只支持Unix洲敢,不支持Windows):
服務(wù)端:

import select
import socket
import sys
import Queue

# Create a TCP/IP socket
server = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
server.setblocking(0)
 
# Bind the socket to the port
server_address = ('localhost', 10000)
print >>sys.stderr, 'starting up on %s port %s' % server_address
server.bind(server_address)
 
# Listen for incoming connections
server.listen(5)

select()方法接收并監(jiān)控3個(gè)通信列表, 第一個(gè)是所有的輸入的data,就是指外部發(fā)過來的數(shù)據(jù)茄蚯,第2個(gè)是監(jiān)控和接收所有要發(fā)出去的data(outgoing data),第3個(gè)監(jiān)控錯(cuò)誤信息压彭,接下來我們需要?jiǎng)?chuàng)建2個(gè)列表來包含輸入和輸出信息來傳給select().

readable , writable , exceptional = select.select(inputs, outputs, inputs, timeout)

所有客戶端的進(jìn)來的連接和數(shù)據(jù)將會被server的主循環(huán)程序放在上面的list中處理,我們現(xiàn)在的server端需要等待連接可寫(writable)之后才能過來渗常,然后接收數(shù)據(jù)并返回(因此不是在接收到數(shù)據(jù)之后就立刻返回)哮塞,因?yàn)槊總€(gè)連接要把輸入或輸出的數(shù)據(jù)先緩存到queue里,然后再由select取出來再發(fā)出去

當(dāng)你把inputs,outputs,exceptional(這里跟inputs共用)傳給select()后凳谦,它返回3個(gè)新的list忆畅,我們上面將他們分別賦值為readable,writable,exceptional, 所有在readable list中的socket連接代表有數(shù)據(jù)可接收(recv),所有在writable list中的存放著你可以對其進(jìn)行發(fā)送(send)操作的socket連接,當(dāng)連接通信出現(xiàn)error時(shí)會把error寫到exceptional列表中尸执。

Readable list 中的socket 可以有3種可能狀態(tài)家凯,第一種是如果這個(gè)socket是main "server" socket,它負(fù)責(zé)監(jiān)聽客戶端的連接,如果這個(gè)main server socket出現(xiàn)在readable里如失,那代表這是server端已經(jīng)ready來接收一個(gè)新的連接進(jìn)來了绊诲,為了讓這個(gè)main server能同時(shí)處理多個(gè)連接,在下面的代碼里褪贵,我們把這個(gè)main server的socket設(shè)置為非阻塞模式掂之。

# Handle inputs
for s in readable:
 
    if s is server:
        # A "readable" server socket is ready to accept a connection
        connection, client_address = s.accept()
        print >>sys.stderr, 'new connection from', client_address
        connection.setblocking(0)
        inputs.append(connection)
 
        # Give the connection a queue for data we want to send
        message_queues[connection] = Queue.Queue()

第二種情況是這個(gè)socket是已經(jīng)建立了的連接,它把數(shù)據(jù)發(fā)了過來脆丁,這個(gè)時(shí)候你就可以通過recv()來接收它發(fā)過來的數(shù)據(jù)世舰,然后把接收到的數(shù)據(jù)放到queue里,這樣你就可以把接收到的數(shù)據(jù)再傳回給客戶端了槽卫。

else:
     data = s.recv(1024)
     if data:
         # A readable client socket has data
         print >>sys.stderr, 'received "%s" from %s' % (data, s.getpeername())
         message_queues[s].put(data)
         # Add output channel for response
         if s not in outputs:
             outputs.append(s)

第三種情況就是這個(gè)客戶端已經(jīng)斷開了跟压,所以你再通過recv()接收到的數(shù)據(jù)就為空了,所以這個(gè)時(shí)候你就可以把這個(gè)跟客戶端的連接關(guān)閉了歼培。

else:
    # Interpret empty result as closed connection
    print >>sys.stderr, 'closing', client_address, 'after reading no data'
    # Stop listening for input on the connection
    if s in outputs:
        outputs.remove(s)  #既然客戶端都斷開了震蒋,我就不用再給它返回?cái)?shù)據(jù)了茸塞,所以這時(shí)候如果這個(gè)客戶端的連接對象還在outputs列表中,就把它刪掉
    inputs.remove(s)    #inputs中也刪除掉
    s.close()           #把這個(gè)連接關(guān)閉掉
 
    # Remove message queue
    del message_queues[s] 


else:
    # Interpret empty result as closed connection
    print >>sys.stderr, 'closing', client_address, 'after reading no data'
    # Stop listening for input on the connection
    if s in outputs:
        outputs.remove(s)  #既然客戶端都斷開了查剖,我就不用再給它返回?cái)?shù)據(jù)了钾虐,所以這時(shí)候如果這個(gè)客戶端的連接對象還在outputs列表中,就把它刪掉
    inputs.remove(s)    #inputs中也刪除掉
    s.close()           #把這個(gè)連接關(guān)閉掉
 
    # Remove message queue
    del message_queues[s]  

對于writable list中的socket笋庄,也有幾種狀態(tài)效扫,如果這個(gè)客戶端連接在跟它對應(yīng)的queue里有數(shù)據(jù),就把這個(gè)數(shù)據(jù)取出來再發(fā)回給這個(gè)客戶端无切,否則就把這個(gè)連接從output list中移除荡短,這樣下一次循環(huán)select()調(diào)用時(shí)檢測到outputs list中沒有這個(gè)連接,那就會認(rèn)為這個(gè)連接還處于非活動(dòng)狀態(tài)

# Handle outputs
for s in writable:
    try:
        next_msg = message_queues[s].get_nowait()
    except Queue.Empty:
        # No messages waiting so stop checking for writability.
        print >>sys.stderr, 'output queue for', s.getpeername(), 'is empty'
        outputs.remove(s)
    else:
        print >>sys.stderr, 'sending "%s" to %s' % (next_msg, s.getpeername())
        s.send(next_msg)

最后哆键,如果在跟某個(gè)socket連接通信過程中出了錯(cuò)誤掘托,就把這個(gè)連接對象在inputs\outputs\message_queue中都刪除,再把連接關(guān)閉掉

# Handle "exceptional conditions"
for s in exceptional:
    print >>sys.stderr, 'handling exceptional condition for', s.getpeername()
    # Stop listening for input on the connection
    inputs.remove(s)
    if s in outputs:
        outputs.remove(s)
    s.close()
 
    # Remove message queue
    del message_queues[s]

客戶端

下面的這個(gè)是客戶端程序展示了如何通過select()對socket進(jìn)行管理并與多個(gè)連接同時(shí)進(jìn)行交互

import socket
import sys
 
messages = [ 'This is the message. ',
             'It will be sent ',
             'in parts.',
             ]
server_address = ('localhost', 10000)
 
# Create a TCP/IP socket
socks = [ socket.socket(socket.AF_INET, socket.SOCK_STREAM),
          socket.socket(socket.AF_INET, socket.SOCK_STREAM),
          ]

# Connect the socket to the port where the server is listening
print >>sys.stderr, 'connecting to %s port %s' % server_address
for s in socks:
    s.connect(server_address)

接下來通過循環(huán)通過每個(gè)socket連接給server發(fā)送和接收數(shù)據(jù)

for message in messages:
 
    # Send messages on both sockets
    for s in socks:
        print >>sys.stderr, '%s: sending "%s"' % (s.getsockname(), message)
        s.send(message)
 
    # Read responses on both sockets
    for s in socks:
        data = s.recv(1024)
        print >>sys.stderr, '%s: received "%s"' % (s.getsockname(), data)
        if not data:
            print >>sys.stderr, 'closing socket', s.getsockname()

服務(wù)端完整代碼

#_*_coding:utf-8_*_
 
import select
import socket
import sys
import queue
 
# Create a TCP/IP socket
server = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
server.setblocking(False)
 
# Bind the socket to the port
server_address = ('localhost', 10000)
print(sys.stderr, 'starting up on %s port %s' % server_address)
server.bind(server_address)
 
# Listen for incoming connections
server.listen(5)
 
# Sockets from which we expect to read
inputs = [ server ]
 
# Sockets to which we expect to write
outputs = [ ]
 
message_queues = {}
while inputs:
 
    # Wait for at least one of the sockets to be ready for processing
    print( '\nwaiting for the next event')
    readable, writable, exceptional = select.select(inputs, outputs, inputs)
    # Handle inputs
    for s in readable:
 
        if s is server:
            # A "readable" server socket is ready to accept a connection
            connection, client_address = s.accept()
            print('new connection from', client_address)
            connection.setblocking(False)
            inputs.append(connection)
 
            # Give the connection a queue for data we want to send
            message_queues[connection] = queue.Queue()
        else:
            data = s.recv(1024)
            if data:
                # A readable client socket has data
                print(sys.stderr, 'received "%s" from %s' % (data, s.getpeername()) )
                message_queues[s].put(data)
                # Add output channel for response
                if s not in outputs:
                    outputs.append(s)
            else:
                # Interpret empty result as closed connection
                print('closing', client_address, 'after reading no data')
                # Stop listening for input on the connection
                if s in outputs:
                    outputs.remove(s)  #既然客戶端都斷開了籍嘹,我就不用再給它返回?cái)?shù)據(jù)了闪盔,所以這時(shí)候如果這個(gè)客戶端的連接對象還在outputs列表中,就把它刪掉
                inputs.remove(s)    #inputs中也刪除掉
                s.close()           #把這個(gè)連接關(guān)閉掉
 
                # Remove message queue
                del message_queues[s]
    # Handle outputs
    for s in writable:
        try:
            next_msg = message_queues[s].get_nowait()
        except queue.Empty:
            # No messages waiting so stop checking for writability.
            print('output queue for', s.getpeername(), 'is empty')
            outputs.remove(s)
        else:
            print( 'sending "%s" to %s' % (next_msg, s.getpeername()))
            s.send(next_msg)
    # Handle "exceptional conditions"
    for s in exceptional:
        print('handling exceptional condition for', s.getpeername() )
        # Stop listening for input on the connection
        inputs.remove(s)
        if s in outputs:
            outputs.remove(s)
        s.close()
 
        # Remove message queue
        del message_queues[s]

客戶端完整代碼

import socket
import sys
 
messages = [ 'This is the message. ',
             'It will be sent ',
             'in parts.',
             ]
server_address = ('localhost', 10000)
 
# Create a TCP/IP socket
socks = [ socket.socket(socket.AF_INET, socket.SOCK_STREAM),
          socket.socket(socket.AF_INET, socket.SOCK_STREAM),
          ]
 
# Connect the socket to the port where the server is listening
print >>sys.stderr, 'connecting to %s port %s' % server_address
for s in socks:
    s.connect(server_address)
 
for message in messages:
 
    # Send messages on both sockets
    for s in socks:
        print >>sys.stderr, '%s: sending "%s"' % (s.getsockname(), message)
        s.send(message)
 
    # Read responses on both sockets
    for s in socks:
        data = s.recv(1024)
        print >>sys.stderr, '%s: received "%s"' % (s.getsockname(), data)
        if not data:
            print >>sys.stderr, 'closing socket', s.getsockname()
            s.close()

[本文轉(zhuǎn)自:http://www.cnblogs.com/alex3714/p/4372426.html#top]

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末辱士,一起剝皮案震驚了整個(gè)濱河市泪掀,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌颂碘,老刑警劉巖异赫,帶你破解...
    沈念sama閱讀 212,884評論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異头岔,居然都是意外死亡塔拳,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,755評論 3 385
  • 文/潘曉璐 我一進(jìn)店門峡竣,熙熙樓的掌柜王于貴愁眉苦臉地迎上來靠抑,“玉大人,你說我怎么就攤上這事适掰∷瘫蹋” “怎么了?”我有些...
    開封第一講書人閱讀 158,369評論 0 348
  • 文/不壞的土叔 我叫張陵类浪,是天一觀的道長载城。 經(jīng)常有香客問我,道長戚宦,這世上最難降的妖魔是什么个曙? 我笑而不...
    開封第一講書人閱讀 56,799評論 1 285
  • 正文 為了忘掉前任,我火速辦了婚禮受楼,結(jié)果婚禮上垦搬,老公的妹妹穿的比我還像新娘。我一直安慰自己艳汽,他們只是感情好猴贰,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,910評論 6 386
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著河狐,像睡著了一般米绕。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上馋艺,一...
    開封第一講書人閱讀 50,096評論 1 291
  • 那天栅干,我揣著相機(jī)與錄音,去河邊找鬼捐祠。 笑死碱鳞,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的踱蛀。 我是一名探鬼主播窿给,決...
    沈念sama閱讀 39,159評論 3 411
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼率拒!你這毒婦竟也來了崩泡?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,917評論 0 268
  • 序言:老撾萬榮一對情侶失蹤猬膨,失蹤者是張志新(化名)和其女友劉穎角撞,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體勃痴,經(jīng)...
    沈念sama閱讀 44,360評論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡谒所,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,673評論 2 327
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了召耘。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片百炬。...
    茶點(diǎn)故事閱讀 38,814評論 1 341
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖污它,靈堂內(nèi)的尸體忽然破棺而出剖踊,到底是詐尸還是另有隱情,我是刑警寧澤衫贬,帶...
    沈念sama閱讀 34,509評論 4 334
  • 正文 年R本政府宣布德澈,位于F島的核電站,受9級特大地震影響固惯,放射性物質(zhì)發(fā)生泄漏梆造。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 40,156評論 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望镇辉。 院中可真熱鬧屡穗,春花似錦、人聲如沸忽肛。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,882評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽屹逛。三九已至础废,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間罕模,已是汗流浹背评腺。 一陣腳步聲響...
    開封第一講書人閱讀 32,123評論 1 267
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留淑掌,地道東北人蒿讥。 一個(gè)月前我還...
    沈念sama閱讀 46,641評論 2 362
  • 正文 我出身青樓,卻偏偏與公主長得像锋拖,于是被迫代替她去往敵國和親诈悍。 傳聞我的和親對象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,728評論 2 351

推薦閱讀更多精彩內(nèi)容