Python開發【Part 12】：協程與IO操做模式

時間  2019-11-20
標籤 python 開發 Part 12 模式 欄目 Python 简体版
原文   原文鏈接

本節內容

  1. Python協程
  2. Select\Poll\Epoll異步IO與事件驅動
  3. IO多路複用

 

1、Python協程

　　協程，又稱微線程，纖程。英文名Coroutine。一句話說明什麼是線程：協程是一種用戶態的輕量級線程。python

　　協程擁有本身的寄存器上下文和棧。協程調度切換時，將寄存器上下文和棧保存到其餘地方，在切回來的時候，恢復先前保存的寄存器上下文和棧。所以：linux

　　協程能保留上一次調用時的狀態（即全部局部狀態的一個特定組合），每次過程重入時，就至關於進入上一次調用的狀態，換種說法：進入上一次離開時所處邏輯流的位置。git

　　協程的優勢：程序員

  • 無需線程上下文切換的開銷
  • 無需原子操做鎖定及同步的開銷
    • "原子操做(atomic operation)是不須要synchronized"，所謂原子操做是指不會被線程調度機制打斷的操做；這種操做一旦開始，就一直運行到結束，中間不會有任何 context switch （切換到另外一個線程）。原子操做能夠是一個步驟，也能夠是多個操做步驟，可是其順序是不能夠被打亂，或者切割掉只執行部分。視做總體是原子性的核心。
  • 方便切換控制流，簡化編程模型
  • 高併發+高擴展性+低成本：一個CPU支持上萬的協程都不是問題。因此很適合用於高併發處理。

　　協程的缺點：github

  • 沒法利用多核資源：協程的本質是個單線程,它不能同時將 單個CPU 的多個核用上,協程須要和進程配合才能運行在多CPU上.固然咱們平常所編寫的絕大部分應用都沒有這個必要，除非是cpu密集型應用。
  • 進行阻塞（Blocking）操做（如IO時）會阻塞掉整個程序

使用yield實現協程操做例子　　　　web

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
import  time
import  queue
def  consumer(name):
     print ( "--->starting eating baozi..." )
     while  True :
         new_baozi  =  yield
         print ( "[%s] is eating baozi %s"  %  (name,new_baozi))
         #time.sleep(1)
 
def  producer():
 
     r  =  con.__next__()
     r  =  con2.__next__()
     n  =  0
     while  n <  5 :
         n  + = 1
         con.send(n)
         con2.send(n)
         print ( "\033[32;1m[producer]\033[0m is making baozi %s"  % n )
 
 
if  __name__  = =  '__main__' :
     con  =  consumer( "c1" )
     con2  =  consumer( "c2" )
     p  =  producer()

　　協程一個標準定義，即符合什麼條件就能稱之爲協程：編程

  1. 必須在只有一個單線程裏實現併發
  2. 修改共享數據不需加鎖
  3. 用戶程序裏本身保存多個控制流的上下文棧
  4. 一個協程遇到IO操做自動切換到其它協程

　　基於上面這4點定義，咱們剛纔用yield實現的程並不能算是合格的線程，由於它有一點功能沒實現，哪一點呢？數組

Greenlet

　　greenlet是一個用C實現的協程模塊，相比與python自帶的yield，它可使你在任意函數之間隨意切換，而不需把這個函數先聲明爲generator緩存

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
# -*- coding:utf-8 -*-
 
 
from  greenlet  import  greenlet
 
 
def  test1():
     print ( 12 )
     gr2.switch()
     print ( 34 )
     gr2.switch()
 
 
def  test2():
     print ( 56 )
     gr1.switch()
     print ( 78 )
 
 
gr1  =  greenlet(test1)
gr2  =  greenlet(test2)
gr1.switch()

　　感受確實用着比generator還簡單了呢，但好像尚未解決一個問題，就是遇到IO操做，自動切換，對不對？安全

Gevent 

　　Gevent 是一個第三方庫，能夠輕鬆經過gevent實現併發同步或異步編程，在gevent中用到的主要模式是Greenlet, 它是以C擴展模塊形式接入Python的輕量級協程。 Greenlet所有運行在主程序操做系統進程的內部，但它們被協做式地調度。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
import  gevent
 
def  func1():
     print ( '\033[31;1m李闖在跟海濤搞...\033[0m' )
     gevent.sleep( 2 )
     print ( '\033[31;1m李闖又回去跟繼續跟海濤搞...\033[0m' )
 
def  func2():
     print ( '\033[32;1m李闖切換到了跟海龍搞...\033[0m' )
     gevent.sleep( 1 )
     print ( '\033[32;1m李闖搞完了海濤，回來繼續跟海龍搞...\033[0m' )
 
 
gevent.joinall([
     gevent.spawn(func1),
     gevent.spawn(func2),
     #gevent.spawn(func3),
])

同步與異步的性能區別 

  
import gevent
 
def task(pid):
    """
    Some non-deterministic task
    """
    gevent.sleep(0.5)
    print('Task %s done' % pid)
 
def synchronous():
    for i in range(1,10):
        task(i)
 
def asynchronous():
    threads = [gevent.spawn(task, i) for i in range(10)]
    gevent.joinall(threads)
 
print('Synchronous:')
synchronous()
 
print('Asynchronous:')
asynchronous()
View Code

上面程序的重要部分是將task函數封裝到Greenlet內部線程的gevent.spawn。 初始化的greenlet列表存放在數組threads中，此數組被傳給gevent.joinall 函數，後者阻塞當前流程，並執行全部給定的greenlet。執行流程只會在 全部greenlet執行完後纔會繼續向下走。　　

遇到IO阻塞時會自動切換任務

  
from gevent import monkey; monkey.patch_all()
import gevent
from  urllib.request import urlopen
 
def f(url):
    print('GET: %s' % url)
    resp = urlopen(url)
    data = resp.read()
    print('%d bytes received from %s.' % (len(data), url))
 
gevent.joinall([
        gevent.spawn(f, 'https://www.python.org/'),
        gevent.spawn(f, 'https://www.yahoo.com/'),
        gevent.spawn(f, 'https://github.com/'),
])
View Code

經過gevent實現單線程下的多socket併發

　　server side 

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
import  sys
import  socket
import  time
import  gevent
 
from  gevent  import  socket,monkey
monkey.patch_all()
 
 
def  server(port):
     s  =  socket.socket()
     s.bind(( '0.0.0.0' , port))
     s.listen( 500 )
     while  True :
         cli, addr  =  s.accept()
         gevent.spawn(handle_request, cli)
 
 
 
def  handle_request(conn):
     try :
         while  True :
             data  =  conn.recv( 1024 )
             print ( "recv:" , data)
             conn.send(data)
             if  not  data:
                 conn.shutdown(socket.SHUT_WR)
 
     except  Exception as  ex:
         print (ex)
     finally :
         conn.close()
if  __name__  = =  '__main__' :
     server( 8001 )

　　client side 　　

  
import socket
 
HOST = 'localhost'    # The remote host
PORT = 8001           # The same port as used by the server
s = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
s.connect((HOST, PORT))
while True:
    msg = bytes(input(">>:"),encoding="utf8")
    s.sendall(msg)
    data = s.recv(1024)
    #print(data)
 
    print('Received', repr(data))
s.close()
View Code
  
import socket
import threading

def sock_conn():

    client = socket.socket()

    client.connect(("localhost",8001))
    count = 0
    while True:
        #msg = input(">>:").strip()
        #if len(msg) == 0:continue
        client.send( ("hello %s" %count).encode("utf-8"))

        data = client.recv(1024)

        print("[%s]recv from server:" % threading.get_ident(),data.decode()) #結果
        count +=1
    client.close()


for i in range(100):
    t = threading.Thread(target=sock_conn)
    t.start()
併發100個socket

 

2、Select\Poll\Epoll異步IO與事件驅動

一般，咱們寫服務器處理模型的程序時，有如下幾種模型：
　　（1）每收到一個請求，建立一個新的進程，來處理該請求；
　　（2）每收到一個請求，建立一個新的線程，來處理該請求；
　　（3）每收到一個請求，放入一個事件列表，讓主進程經過非阻塞I/O方式來處理請求
上面的幾種方式，各有千秋，
　　第（1）中方法，因爲建立新的進程的開銷比較大，因此，會致使服務器性能比較差,但實現比較簡單。
　　第（2）種方式，因爲要涉及到線程的同步，有可能會面臨 死鎖等問題。
　　第（3）種方式，在寫應用程序代碼時，邏輯比前面兩種都複雜。
綜合考慮各方面因素，通常廣泛認爲第（3）種方式是大多數 網絡服務器採用的方式

看圖說話講事件驅動模型

在UI編程中，經常要對鼠標點擊進行相應，首先如何得到鼠標點擊呢？
方式一：建立一個線程，該線程一直循環檢測是否有鼠標點擊，那麼這個方式有如下幾個缺點：
1. CPU資源浪費，可能鼠標點擊的頻率很是小，可是掃描線程仍是會一直循環檢測，這會形成不少的CPU資源浪費；若是掃描鼠標點擊的接口是阻塞的呢？
2. 若是是堵塞的，又會出現下面這樣的問題，若是咱們不但要掃描鼠標點擊，還要掃描鍵盤是否按下，因爲掃描鼠標時被堵塞了，那麼可能永遠不會去掃描鍵盤；
3. 若是一個循環須要掃描的設備很是多，這又會引來響應時間的問題；
因此，該方式是很是很差的。

方式二：就是事件驅動模型
目前大部分的UI編程都是事件驅動模型，如不少UI平臺都會提供onClick()事件，這個事件就表明鼠標按下事件。事件驅動模型大致思路以下：
1. 有一個事件（消息）隊列；
2. 鼠標按下時，往這個隊列中增長一個點擊事件（消息）；
3. 有個循環，不斷從隊列取出事件，根據不一樣的事件，調用不一樣的函數，如onClick()、onKeyDown()等；
4. 事件（消息）通常都各自保存各自的處理函數指針，這樣，每一個消息都有獨立的處理函數；

　　事件驅動編程是一種編程範式，這裏程序的執行流由外部事件來決定。它的特色是包含一個事件循環，當外部事件發生時使用回調機制來觸發相應的處理。另外兩種常見的編程範式是（單線程）同步以及多線程編程。

　　讓咱們用例子來比較和對比一下單線程、多線程以及事件驅動編程模型。下圖展現了隨着時間的推移，這三種模式下程序所作的工做。這個程序有3個任務須要完成，每一個任務都在等待I/O操做時阻塞自身。阻塞在I/O操做上所花費的時間已經用灰色框標示出來了。

 

　　在單線程同步模型中，任務按照順序執行。若是某個任務由於I/O而阻塞，其餘全部的任務都必須等待，直到它完成以後它們才能依次執行。這種明確的執行順序和串行化處理的行爲是很容易推斷得出的。若是任務之間並無互相依賴的關係，但仍然須要互相等待的話這就使得程序沒必要要的下降了運行速度。

　　在多線程版本中，這3個任務分別在獨立的線程中執行。這些線程由操做系統來管理，在多處理器系統上能夠並行處理，或者在單處理器系統上交錯執行。這使得當某個線程阻塞在某個資源的同時其餘線程得以繼續執行。與完成相似功能的同步程序相比，這種方式更有效率，但程序員必須寫代碼來保護共享資源，防止其被多個線程同時訪問。多線程程序更加難以推斷，由於這類程序不得不經過線程同步機制如鎖、可重入函數、線程局部存儲或者其餘機制來處理線程安全問題，若是實現不當就會致使出現微妙且使人痛不欲生的bug。

　　在事件驅動版本的程序中，3個任務交錯執行，但仍然在一個單獨的線程控制中。當處理I/O或者其餘昂貴的操做時，註冊一個回調到事件循環中，而後當I/O操做完成時繼續執行。回調描述了該如何處理某個事件。事件循環輪詢全部的事件，當事件到來時將它們分配給等待處理事件的回調函數。這種方式讓程序儘量的得以執行而不須要用到額外的線程。事件驅動型程序比多線程程序更容易推斷出行爲，由於程序員不須要關心線程安全問題。

當咱們面對以下的環境時，事件驅動模型一般是一個好的選擇：

  1. 程序中有許多任務，並且…
  2. 任務之間高度獨立（所以它們不須要互相通訊，或者等待彼此）並且…
  3. 在等待事件到來時，某些任務會阻塞。

當應用程序須要在任務間共享可變的數據時，這也是一個不錯的選擇，由於這裏不須要採用同步處理。

網絡應用程序一般都有上述這些特色，這使得它們可以很好的契合事件驅動編程模型。

此處要提出一個問題，就是，上面的事件驅動模型中，只要一遇到IO就註冊一個事件，而後主程序就能夠繼續幹其它的事情了，只到io處理完畢後，繼續恢復以前中斷的任務，這本質上是怎麼實現的呢？哈哈，下面咱們就來一塊兒揭開這神祕的面紗。。。。

Select\Poll\Epoll異步IO　

首先列一下，sellect、poll、epoll三者的區別 

select 
select最先於1983年出如今4.2BSD中，它經過一個select()系統調用來監視多個文件描述符的數組，當select()返回後，該數組中就緒的文件描述符便會被內核修改標誌位，使得進程能夠得到這些文件描述符從而進行後續的讀寫操做。

select目前幾乎在全部的平臺上支持，其良好跨平臺支持也是它的一個優勢，事實上從如今看來，這也是它所剩很少的優勢之一。

select的一個缺點在於單個進程可以監視的文件描述符的數量存在最大限制，在Linux上通常爲1024，不過能夠經過修改宏定義甚至從新編譯內核的方式提高這一限制。

另外，select()所維護的存儲大量文件描述符的數據結構，隨着文件描述符數量的增大，其複製的開銷也線性增加。同時，因爲網絡響應時間的延遲使得大量TCP鏈接處於非活躍狀態，但調用select()會對全部socket進行一次線性掃描，因此這也浪費了必定的開銷。

poll 
poll在1986年誕生於System V Release 3，它和select在本質上沒有多大差異，可是poll沒有最大文件描述符數量的限制。

poll和select一樣存在一個缺點就是，包含大量文件描述符的數組被總體複製於用戶態和內核的地址空間之間，而不論這些文件描述符是否就緒，它的開銷隨着文件描述符數量的增長而線性增大。

另外，select()和poll()將就緒的文件描述符告訴進程後，若是進程沒有對其進行IO操做，那麼下次調用select()和poll()的時候將再次報告這些文件描述符，因此它們通常不會丟失就緒的消息，這種方式稱爲水平觸發（Level Triggered）。

epoll 
直到Linux2.6纔出現了由內核直接支持的實現方法，那就是epoll，它幾乎具有了以前所說的一切優勢，被公認爲Linux2.6下性能最好的多路I/O就緒通知方法。

epoll能夠同時支持水平觸發和邊緣觸發（Edge Triggered，只告訴進程哪些文件描述符剛剛變爲就緒狀態，它只說一遍，若是咱們沒有采起行動，那麼它將不會再次告知，這種方式稱爲邊緣觸發），理論上邊緣觸發的性能要更高一些，可是代碼實現至關複雜。

epoll一樣只告知那些就緒的文件描述符，並且當咱們調用epoll_wait()得到就緒文件描述符時，返回的不是實際的描述符，而是一個表明就緒描述符數量的值，你只須要去epoll指定的一個數組中依次取得相應數量的文件描述符便可，這裏也使用了內存映射（mmap）技術，這樣便完全省掉了這些文件描述符在系統調用時複製的開銷。

另外一個本質的改進在於epoll採用基於事件的就緒通知方式。在select/poll中，進程只有在調用必定的方法後，內核纔對全部監視的文件描述符進行掃描，而epoll事先經過epoll_ctl()來註冊一個文件描述符，一旦基於某個文件描述符就緒時，內核會採用相似callback的回調機制，迅速激活這個文件描述符，當進程調用epoll_wait()時便獲得通知。

Python select 

Python的select()方法直接調用操做系統的IO接口，它監控sockets,open files, and pipes(全部帶fileno()方法的文件句柄)什麼時候變成readable 和writeable, 或者通訊錯誤，select()使得同時監控多個鏈接變的簡單，而且這比寫一個長循環來等待和監控多客戶端鏈接要高效，由於select直接經過操做系統提供的C的網絡接口進行操做，而不是經過Python的解釋器。

注意：Using Python’s file objects with select() works for Unix, but is not supported under Windows.

接下來經過echo server例子要以瞭解select 是如何經過單進程實現同時處理多個非阻塞的socket鏈接的

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
import  select
import  socket
import  sys
import  Queue
 
# Create a TCP/IP socket
server  =  socket.socket(socket.AF_INET, socket.SOCK_STREAM)
server.setblocking( 0 )
 
# Bind the socket to the port
server_address  =  ( 'localhost' ,  10000 )
print  >>sys.stderr,  'starting up on %s port %s'  %  server_address
server.bind(server_address)
 
# Listen for incoming connections
server.listen( 5 )

select()方法接收並監控3個通訊列表， 第一個是全部的輸入的data,就是指外部發過來的數據，第2個是監控和接收全部要發出去的data(outgoing data),第3個監控錯誤信息，接下來咱們須要建立2個列表來包含輸入和輸出信息來傳給select().

# Sockets from which we expect to read
inputs = [ server ] # Sockets to which we expect to write outputs = [ ]

全部客戶端的進來的鏈接和數據將會被server的主循環程序放在上面的list中處理，咱們如今的server端須要等待鏈接可寫（writable)以後才能過來，而後接收數據並返回(所以不是在接收到數據以後就馬上返回)，由於每一個鏈接要把輸入或輸出的數據先緩存到queue裏，而後再由select取出來再發出去。

Connections are added to and removed from these lists by the server main loop. Since this version of the server is going to wait for a socket to become writable before sending any data (instead of immediately sending the reply), each output connection needs a queue to act as a buffer for the data to be sent through it.

# Outgoing message queues (socket:Queue)
message_queues = {}

The main portion of the server program loops, calling select() to block and wait for network activity.

下面是此程序的主循環，調用select()時會阻塞和等待直到新的鏈接和數據進來

while inputs: # Wait for at least one of the sockets to be ready for processing print >>sys.stderr, '\nwaiting for the next event' readable, writable, exceptional = select.select(inputs, outputs, inputs)

 當你把inputs,outputs,exceptional(這裏跟inputs共用)傳給select()後，它返回3個新的list，咱們上面將他們分別賦值爲readable,writable,exceptional, 全部在readable list中的socket鏈接表明有數據可接收(recv),全部在writable list中的存放着你能夠對其進行發送(send)操做的socket鏈接，當鏈接通訊出現error時會把error寫到exceptional列表中。

select() returns three new lists, containing subsets of the contents of the lists passed in. All of the sockets in the readable list have incoming data buffered and available to be read. All of the sockets in the writable list have free space in their buffer and can be written to. The sockets returned in exceptional have had an error (the actual definition of 「exceptional condition」 depends on the platform).

Readable list 中的socket 能夠有3種可能狀態，第一種是若是這個socket是main "server" socket,它負責監聽客戶端的鏈接，若是這個main server socket出如今readable裏，那表明這是server端已經ready來接收一個新的鏈接進來了，爲了讓這個main server能同時處理多個鏈接，在下面的代碼裏，咱們把這個main server的socket設置爲非阻塞模式。

The 「readable」 sockets represent three possible cases. If the socket is the main 「server」 socket, the one being used to listen for connections, then the 「readable」 condition means it is ready to accept another incoming connection. In addition to adding the new connection to the list of inputs to monitor, this section sets the client socket to not block.

1
2
3
4
5
6
7
8
9
10
11
12
# Handle inputs
for  s  in  readable:
 
     if  s  is  server:
         # A "readable" server socket is ready to accept a connection
         connection, client_address  =  s.accept()
         print  >>sys.stderr,  'new connection from' , client_address
         connection.setblocking( 0 )
         inputs.append(connection)
 
         # Give the connection a queue for data we want to send
         message_queues[connection]  =  Queue.Queue()

 

第二種狀況是這個socket是已經創建了的鏈接，它把數據發了過來，這個時候你就能夠經過recv()來接收它發過來的數據，而後把接收到的數據放到queue裏，這樣你就能夠把接收到的數據再傳回給客戶端了。

The next case is an established connection with a client that has sent data. The data is read with recv(), then placed on the queue so it can be sent through the socket and back to the client.

1
2
3
4
5
6
7
8
9
else :
      data  =  s.recv( 1024 )
      if  data:
          # A readable client socket has data
          print  >>sys.stderr,  'received "%s" from %s'  %  (data, s.getpeername())
          message_queues[s].put(data)
          # Add output channel for response
          if  s  not  in  outputs:
              outputs.append(s)

第三種狀況就是這個客戶端已經斷開了，因此你再經過recv()接收到的數據就爲空了，因此這個時候你就能夠把這個跟客戶端的鏈接關閉了。

A readable socket without data available is from a client that has disconnected, and the stream is ready to be closed.

1
2
3
4
5
6
7
8
9
10
11
else :
     # Interpret empty result as closed connection
     print  >>sys.stderr,  'closing' , client_address,  'after reading no data'
     # Stop listening for input on the connection
     if  s  in  outputs:
         outputs.remove(s)   #既然客戶端都斷開了，我就不用再給它返回數據了，因此這時候若是這個客戶端的鏈接對象還在outputs列表中，就把它刪掉
     inputs.remove(s)     #inputs中也刪除掉
     s.close()            #把這個鏈接關閉掉
 
     # Remove message queue
     del  message_queues[s]  　

對於writable list中的socket，也有幾種狀態，若是這個客戶端鏈接在跟它對應的queue裏有數據，就把這個數據取出來再發回給這個客戶端，不然就把這個鏈接從output list中移除，這樣下一次循環select()調用時檢測到outputs list中沒有這個鏈接，那就會認爲這個鏈接還處於非活動狀態

There are fewer cases for the writable connections. If there is data in the queue for a connection, the next message is sent. Otherwise, the connection is removed from the list of output connections so that the next time through the loop select() does not indicate that the socket is ready to send data.

1
2
3
4
5
6
7
8
9
10
11
# Handle outputs
for  s  in  writable:
     try :
         next_msg  =  message_queues[s].get_nowait()
     except  Queue.Empty:
         # No messages waiting so stop checking for writability.
         print  >>sys.stderr,  'output queue for' , s.getpeername(),  'is empty'
         outputs.remove(s)
     else :
         print  >>sys.stderr,  'sending "%s" to %s'  %  (next_msg, s.getpeername())
         s.send(next_msg)

最後，若是在跟某個socket鏈接通訊過程當中出了錯誤，就把這個鏈接對象在inputs\outputs\message_queue中都刪除，再把鏈接關閉掉

1
2
3
4
5
6
7
8
9
10
11
# Handle "exceptional conditions"
for  s  in  exceptional:
     print  >>sys.stderr,  'handling exceptional condition for' , s.getpeername()
     # Stop listening for input on the connection
     inputs.remove(s)
     if  s  in  outputs:
         outputs.remove(s)
     s.close()
 
     # Remove message queue
     del  message_queues[s]

客戶端

下面的這個是客戶端程序展現瞭如何經過select()對socket進行管理並與多個鏈接同時進行交互，

The example client program uses two sockets to demonstrate how the server with select() manages multiple connections at the same time. The client starts by connecting each TCP/IP socket to the server.

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
import  socket
import  sys
 
messages  =  [  'This is the message. ' ,
              'It will be sent ' ,
              'in parts.' ,
              ]
server_address  =  ( 'localhost' ,  10000 )
 
# Create a TCP/IP socket
socks  =  [ socket.socket(socket.AF_INET, socket.SOCK_STREAM),
           socket.socket(socket.AF_INET, socket.SOCK_STREAM),
           ]
 
# Connect the socket to the port where the server is listening
print  >>sys.stderr,  'connecting to %s port %s'  %  server_address
for  s  in  socks:
     s.connect(server_address)

接下來經過循環經過每一個socket鏈接給server發送和接收數據。

 
     
 
    
 
    
Then it sends one pieces of the message at a time via each socket, and reads all responses available after writing new data.
 
    
 
     
 
      
 
       
 
         
         
 
           
           

             1 
           
 
           

             2 
           
 
           

             3 
           
 
           

             4 
           
 
           

             5 
           
 
           

             6 
           
 
           

             7 
           
 
           

             8 
           
 
           

             9 
           
 
           

             10 
           
 
           

             11 
           
 
           

             12 
           
 
           

             13 
           
 		 
           
           
 
            
 
             for  
             message  
             in  
             messages: 
            
 
            

                
            
 
            
 
                  
             # Send messages on both sockets 
            
 
            
 
                  
             for  
             s  
             in  
             socks: 
            
 
            
 
                      
             print  
             >>sys.stderr,  
             '%s: sending "%s"'  
             %  
             (s.getsockname(), message) 
            
 
            
 
                      
             s.send(message) 
            
 
            

                
            
 
            
 
                  
             # Read responses on both sockets 
            
 
            
 
                  
             for  
             s  
             in  
             socks: 
            
 
            
 
                      
             data  
             =  
             s.recv( 
             1024 
             ) 
            
 
            
 
                      
             print  
             >>sys.stderr,  
             '%s: received "%s"'  
             %  
             (s.getsockname(), data) 
            
 
            
 
                      
             if  
             not  
             data: 
            
 
            
 
                          
             print  
             >>sys.stderr,  
             'closing socket' 
             , s.getsockname() 
            
 
           
 		 
         
 
         
       
 
      
 
     
 
    
 
    
 最後服務器端的完整代碼以下： 
 
   
 
  
 
  
 
   
 
    
 
     
 
       
       
 
         
         

           1 
         
 
         

           2 
         
 
         

           3 
         
 
         

           4 
         
 
         

           5 
         
 
         

           6 
         
 
         

           7 
         
 
         

           8 
         
 
         

           9 
         
 
         

           10 
         
 
         

           11 
         
 
         

           12 
         
 
         

           13 
         
 
         

           14 
         
 
         

           15 
         
 
         

           16 
         
 
         

           17 
         
 
         

           18 
         
 
         

           19 
         
 
         

           20 
         
 
         

           21 
         
 
         

           22 
         
 
         

           23 
         
 
         

           24 
         
 
         

           25 
         
 
         

           26 
         
 
         

           27 
         
 
         

           28 
         
 
         

           29 
         
 
         

           30 
         
 
         

           31 
         
 
         

           32 
         
 
         

           33 
         
 
         

           34 
         
 
         

           35 
         
 
         

           36 
         
 
         

           37 
         
 
         

           38 
         
 
         

           39 
         
 
         

           40 
         
 
         

           41 
         
 
         

           42 
         
 
         

           43 
         
 
         

           44 
         
 
         

           45 
         
 
         

           46 
         
 
         

           47 
         
 
         

           48 
         
 
         

           49 
         
 
         

           50 
         
 
         

           51 
         
 
         

           52 
         
 
         

           53 
         
 
         

           54 
         
 
         

           55 
         
 
         

           56 
         
 
         

           57 
         
 
         

           58 
         
 
         

           59 
         
 
         

           60 
         
 
         

           61 
         
 
         

           62 
         
 
         

           63 
         
 
         

           64 
         
 
         

           65 
         
 
         

           66 
         
 
         

           67 
         
 
         

           68 
         
 
         

           69 
         
 
         

           70 
         
 
         

           71 
         
 
         

           72 
         
 
         

           73 
         
 
         

           74 
         
 
         

           75 
         
 
         

           76 
         
 
         

           77 
         
 
         

           78 
         
 
         

           79 
         
 
         

           80 
         
 
         

           81 
         
 
         

           82 
         
 
         

           83 
         
 
         

           84 
         
 
         

           85 
         
 
         

           86 
         
 		 
         
         
 
          
 
           #_*_coding:utf-8_*_ 
          
 
          
 
           __author__  
           =  
           'Alex Li' 
          
 
          

              
          
 
          
 
           import  
           select 
          
 
          
 
           import  
           socket 
          
 
          
 
           import  
           sys 
          
 
          
 
           import  
           queue 
          
 
          

              
          
 
          
 
           # Create a TCP/IP socket 
          
 
          
 
           server  
           =  
           socket.socket(socket.AF_INET, socket.SOCK_STREAM) 
          
 
          
 
           server.setblocking( 
           False 
           ) 
          
 
          

              
          
 
          
 
           # Bind the socket to the port 
          
 
          
 
           server_address  
           =  
           ( 
           'localhost' 
           ,  
           10000 
           ) 
          
 
          
 
           print 
           (sys.stderr,  
           'starting up on %s port %s'  
           %  
           server_address) 
          
 
          
 
           server.bind(server_address) 
          
 
          

              
          
 
          
 
           # Listen for incoming connections 
          
 
          
 
           server.listen( 
           5 
           ) 
          
 
          

              
          
 
          
 
           # Sockets from which we expect to read 
          
 
          
 
           inputs  
           =  
           [ server ] 
          
 
          

              
          
 
          
 
           # Sockets to which we expect to write 
          
 
          
 
           outputs  
           =  
           [ ] 
          
 
          

              
          
 
          
 
           message_queues  
           =  
           {} 
          
 
          
 
           while  
           inputs: 
          
 
          

              
          
 
          
 
                
           # Wait for at least one of the sockets to be ready for processing 
          
 
          
 
                
           print 
           (  
           '\nwaiting for the next event' 
           ) 
          
 
          
 
                
           readable, writable, exceptional  
           =  
           select.select(inputs, outputs, inputs) 
          
 
          
 
                
           # Handle inputs 
          
 
          
 
                
           for  
           s  
           in  
           readable: 
          
 
          

              
          
 
          
 
                    
           if  
           s  
           is  
           server: 
          
 
          
 
                        
           # A "readable" server socket is ready to accept a connection 
          
 
          
 
                        
           connection, client_address  
           =  
           s.accept() 
          
 
          
 
                        
           print 
           ( 
           'new connection from' 
           , client_address) 
          
 
          
 
                        
           connection.setblocking( 
           False 
           ) 
          
 
          
 
                        
           inputs.append(connection) 
          
 
          

              
          
 
          
 
                        
           # Give the connection a queue for data we want to send 
          
 
          
 
                        
           message_queues[connection]  
           =  
           queue.Queue() 
          
 
          
 
                    
           else 
           : 
          
 
          
 
                        
           data  
           =  
           s.recv( 
           1024 
           ) 
          
 
          
 
                        
           if  
           data: 
          
 
          
 
                            
           # A readable client socket has data 
          
 
          
 
                            
           print 
           (sys.stderr,  
           'received "%s" from %s'  
           %  
           (data, s.getpeername()) ) 
          
 
          
 
                            
           message_queues[s].put(data) 
          
 
          
 
                            
           # Add output channel for response 
          
 
          
 
                            
           if  
           s  
           not  
           in  
           outputs: 
          
 
          
 
                                
           outputs.append(s) 
          
 
          
 
                        
           else 
           : 
          
 
          
 
                            
           # Interpret empty result as closed connection 
          
 
          
 
                            
           print 
           ( 
           'closing' 
           , client_address,  
           'after reading no data' 
           ) 
          
 
          
 
                            
           # Stop listening for input on the connection 
          
 
          
 
                            
           if  
           s  
           in  
           outputs: 
          
 
          
 
                                
           outputs.remove(s)   
           #既然客戶端都斷開了，我就不用再給它返回數據了，因此這時候若是這個客戶端的鏈接對象還在outputs列表中，就把它刪掉 
          
 
          
 
                            
           inputs.remove(s)     
           #inputs中也刪除掉 
          
 
          
 
                            
           s.close()            
           #把這個鏈接關閉掉 
          
 
          

              
          
 
          
 
                            
           # Remove message queue 
          
 
          
 
                            
           del  
           message_queues[s] 
          
 
          
 
                
           # Handle outputs 
          
 
          
 
                
           for  
           s  
           in  
           writable: 
          
 
          
 
                    
           try 
           : 
          
 
          
 
                        
           next_msg  
           =  
           message_queues[s].get_nowait() 
          
 
          
 
                    
           except  
           queue.Empty: 
          
 
          
 
                        
           # No messages waiting so stop checking for writability. 
          
 
          
 
                        
           print 
           ( 
           'output queue for' 
           , s.getpeername(),  
           'is empty' 
           ) 
          
 
          
 
                        
           outputs.remove(s) 
          
 
          
 
                    
           else 
           : 
          
 
          
 
                        
           print 
           (  
           'sending "%s" to %s'  
           %  
           (next_msg, s.getpeername())) 
          
 
          
 
                        
           s.send(next_msg) 
          
 
          
 
                
           # Handle "exceptional conditions" 
          
 
          
 
                
           for  
           s  
           in  
           exceptional: 
          
 
          
 
                    
           print 
           ( 
           'handling exceptional condition for' 
           , s.getpeername() ) 
          
 
          
 
                    
           # Stop listening for input on the connection 
          
 
          
 
                    
           inputs.remove(s) 
          
 
          
 
                    
           if  
           s  
           in  
           outputs: 
          
 
          
 
                        
           outputs.remove(s) 
          
 
          
 
                    
           s.close() 
          
 
          

              
          
 
          
 
                    
           # Remove message queue 
          
 
          
 
                    
           del  
           message_queues[s] 
          
 
         
 		 
       
 
       
     
 
    
 
   
 
  
 
  
 
   
 
    
 
     
 
       
       
 
         
         

           1 
         
 		 
         
         
 
          
 
           <strong style 
           = 
           "font-family: verdana, Arial, Helvetica, sans-serif; font-size: 14px; line-height: 1.5; " 
           >客戶端的完整代碼以下：< 
           / 
           strong> 
          
 
         
 		 
       
 
       
     
 
    
 
   
 
  
 
  
 
   
 
    
 
     
 
       
       
 
         
         

           1 
         
 
         

           2 
         
 
         

           3 
         
 
         

           4 
         
 
         

           5 
         
 
         

           6 
         
 
         

           7 
         
 
         

           8 
         
 
         

           9 
         
 
         

           10 
         
 
         

           11 
         
 
         

           12 
         
 
         

           13 
         
 
         

           14 
         
 
         

           15 
         
 
         

           16 
         
 
         

           17 
         
 
         

           18 
         
 
         

           19 
         
 
         

           20 
         
 
         

           21 
         
 
         

           22 
         
 
         

           23 
         
 
         

           24 
         
 
         

           25 
         
 
         

           26 
         
 
         

           27 
         
 
         

           28 
         
 
         

           29 
         
 
         

           30 
         
 
         

           31 
         
 
         

           32 
         
 
         

           33 
         
 
         

           34 
         
 		 
         
         
 
          
 
           __author__  
           =  
           'jieli' 
          
 
          
 
           import  
           socket 
          
 
          
 
           import  
           sys 
          
 
          

              
          
 
          
 
           messages  
           =  
           [  
           'This is the message. ' 
           , 
          
 
          
 
                         
           'It will be sent ' 
           , 
          
 
          
 
                         
           'in parts.' 
           , 
          
 
          
 
                         
           ] 
          
 
          
 
           server_address  
           =  
           ( 
           'localhost' 
           ,  
           10000 
           ) 
          
 
          

              
          
 
          
 
           # Create a TCP/IP socket 
          
 
          
 
           socks  
           =  
           [ socket.socket(socket.AF_INET, socket.SOCK_STREAM), 
          
 
          
 
                      
           socket.socket(socket.AF_INET, socket.SOCK_STREAM), 
          
 
          
 
                      
           ] 
          
 
          

              
          
 
          
 
           # Connect the socket to the port where the server is listening 
          
 
          
 
           print  
           >>sys.stderr,  
           'connecting to %s port %s'  
           %  
           server_address 
          
 
          
 
           for  
           s  
           in  
           socks: 
          
 
          
 
                
           s.connect(server_address) 
          
 
          

              
          
 
          
 
           for  
           message  
           in  
           messages: 
          
 
          

              
          
 
          
 
                
           # Send messages on both sockets 
          
 
          
 
                
           for  
           s  
           in  
           socks: 
          
 
          
 
                    
           print  
           >>sys.stderr,  
           '%s: sending "%s"'  
           %  
           (s.getsockname(), message) 
          
 
          
 
                    
           s.send(message) 
          
 
          

              
          
 
          
 
                
           # Read responses on both sockets 
          
 
          
 
                
           for  
           s  
           in  
           socks: 
          
 
          
 
                    
           data  
           =  
           s.recv( 
           1024 
           ) 
          
 
          
 
                    
           print  
           >>sys.stderr,  
           '%s: received "%s"'  
           %  
           (s.getsockname(), data) 
          
 
          
 
                    
           if  
           not  
           data: 
          
 
          
 
                        
           print  
           >>sys.stderr,  
           'closing socket' 
           , s.getsockname() 
          
 
          
 
                        
           s.close() 
          
 
         
 		 
       
 
       
     
 
    
 
   
 
  
 
  
Run the server in one window and the client in another. The output will look like this, with different port numbers.
 
  
 
   
 
    
$ python ./select_echo_server.py
starting up on localhost port 10000

waiting for the next event
new connection from ('127.0.0.1', 55821)

waiting for the next event
new connection from ('127.0.0.1', 55822)
received "This is the message. " from ('127.0.0.1', 55821)

waiting for the next event
sending "This is the message. " to ('127.0.0.1', 55821)

waiting for the next event
output queue for ('127.0.0.1', 55821) is empty

waiting for the next event
received "This is the message. " from ('127.0.0.1', 55822)

waiting for the next event
sending "This is the message. " to ('127.0.0.1', 55822)

waiting for the next event
output queue for ('127.0.0.1', 55822) is empty

waiting for the next event
received "It will be sent " from ('127.0.0.1', 55821)
received "It will be sent " from ('127.0.0.1', 55822)

waiting for the next event
sending "It will be sent " to ('127.0.0.1', 55821)
sending "It will be sent " to ('127.0.0.1', 55822)

waiting for the next event
output queue for ('127.0.0.1', 55821) is empty
output queue for ('127.0.0.1', 55822) is empty

waiting for the next event
received "in parts." from ('127.0.0.1', 55821)
received "in parts." from ('127.0.0.1', 55822)

waiting for the next event
sending "in parts." to ('127.0.0.1', 55821)
sending "in parts." to ('127.0.0.1', 55822)

waiting for the next event
output queue for ('127.0.0.1', 55821) is empty
output queue for ('127.0.0.1', 55822) is empty

waiting for the next event
closing ('127.0.0.1', 55822) after reading no data
closing ('127.0.0.1', 55822) after reading no data

waiting for the next event

 
   
 
  
 
  
The client output shows the data being sent and received using both sockets.
 
  
 
   
 
    
$ python ./select_echo_multiclient.py
connecting to localhost port 10000
('127.0.0.1', 55821): sending "This is the message. "
('127.0.0.1', 55822): sending "This is the message. "
('127.0.0.1', 55821): received "This is the message. "
('127.0.0.1', 55822): received "This is the message. "
('127.0.0.1', 55821): sending "It will be sent "
('127.0.0.1', 55822): sending "It will be sent "
('127.0.0.1', 55821): received "It will be sent "
('127.0.0.1', 55822): received "It will be sent "
('127.0.0.1', 55821): sending "in parts."
('127.0.0.1', 55822): sending "in parts."
('127.0.0.1', 55821): received "in parts."
('127.0.0.1', 55822): received "in parts."　


 
   
 
  
 
  
3、IO多路複用
 
  
同步IO和異步IO，阻塞IO和非阻塞IO分別是什麼，到底有什麼區別？不一樣的人在不一樣的上下文下給出的答案是不一樣的。因此先限定一下本文的上下文。
 
  
本文討論的背景是Linux環境下的network IO。
 
  
概念說明
 
  
在進行解釋以前，首先要說明幾個概念：
- 用戶空間和內核空間
- 進程切換
- 進程的阻塞
- 文件描述符
- 緩存 I/O
 
  
用戶空間與內核空間
 
  
如今操做系統都是採用虛擬存儲器，那麼對32位操做系統而言，它的尋址空間（虛擬存儲空間）爲4G（2的32次方）。操做系統的核心是內核，獨立於普通的應用程序，能夠訪問受保護的內存空間，也有訪問底層硬件設備的全部權限。爲了保證用戶進程不能直接操做內核（kernel），保證內核的安全，操心繫統將虛擬空間劃分爲兩部分，一部分爲內核空間，一部分爲用戶空間。針對linux操做系統而言，將最高的1G字節（從虛擬地址0xC0000000到0xFFFFFFFF），供內核使用，稱爲內核空間，而將較低的3G字節（從虛擬地址0x00000000到0xBFFFFFFF），供各個進程使用，稱爲用戶空間。
 
  
進程切換
 
  
爲了控制進程的執行，內核必須有能力掛起正在CPU上運行的進程，並恢復之前掛起的某個進程的執行。這種行爲被稱爲進程切換。所以能夠說，任何進程都是在操做系統內核的支持下運行的，是與內核緊密相關的。
 
  
從一個進程的運行轉到另外一個進程上運行，這個過程當中通過下面這些變化：
1. 保存處理機上下文，包括程序計數器和其餘寄存器。
2. 更新PCB信息。
 
  
3. 把進程的PCB移入相應的隊列，如就緒、在某事件阻塞等隊列。
4. 選擇另外一個進程執行，並更新其PCB。
5. 更新內存管理的數據結構。
6. 恢復處理機上下文。
 
  
總而言之就是很耗資源，具體的能夠參考這篇文章：進程切換
 
  
注：進程控制塊（Processing Control Block），是操做系統核心中一種數據結構，主要表示進程狀態。其做用是使一個在多道程序環境下不能獨立運行的程序（含數據），成爲一個能獨立運行的基本單位或與其它進程併發執行的進程。或者說，OS是根據PCB來對併發執行的進程進行控制和管理的。 PCB一般是系統內存佔用區中的一個連續存區，它存放着操做系統用於描述進程狀況及控制進程運行所需的所有信息 
 
  
進程的阻塞
 
  
正在執行的進程，因爲期待的某些事件未發生，如請求系統資源失敗、等待某種操做的完成、新數據還沒有到達或無新工做作等，則由系統自動執行阻塞原語(Block)，使本身由運行狀態變爲阻塞狀態。可見，進程的阻塞是進程自身的一種主動行爲，也所以只有處於運行態的進程（得到CPU），纔可能將其轉爲阻塞狀態。當進程進入阻塞狀態，是不佔用CPU資源的。
 
  
文件描述符fd
 
  
文件描述符（File descriptor）是計算機科學中的一個術語，是一個用於表述指向文件的引用的抽象化概念。
 
  
文件描述符在形式上是一個非負整數。實際上，它是一個索引值，指向內核爲每個進程所維護的該進程打開文件的記錄表。當程序打開一個現有文件或者建立一個新文件時，內核向進程返回一個文件描述符。在程序設計中，一些涉及底層的程序編寫每每會圍繞着文件描述符展開。可是文件描述符這一律念每每只適用於UNIX、Linux這樣的操做系統。
 
  
緩存 I/O
 
  
緩存 I/O 又被稱做標準 I/O，大多數文件系統的默認 I/O 操做都是緩存 I/O。在 Linux 的緩存 I/O 機制中，操做系統會將 I/O 的數據緩存在文件系統的頁緩存（ page cache ）中，也就是說，數據會先被拷貝到操做系統內核的緩衝區中，而後纔會從操做系統內核的緩衝區拷貝到應用程序的地址空間。
 
  
緩存 I/O 的缺點：
數據在傳輸過程當中須要在應用程序地址空間和內核進行屢次數據拷貝操做，這些數據拷貝操做所帶來的 CPU 以及內存開銷是很是大的。
 
  
IO模式
 
  
剛纔說了，對於一次IO訪問（以read舉例），數據會先被拷貝到操做系統內核的緩衝區中，而後纔會從操做系統內核的緩衝區拷貝到應用程序的地址空間。因此說，當一個read操做發生時，它會經歷兩個階段：
1. 等待數據準備 (Waiting for the data to be ready)
2. 將數據從內核拷貝到進程中 (Copying the data from the kernel to the process)
 
  
正式由於這兩個階段，linux系統產生了下面五種網絡模式的方案。
- 阻塞 I/O（blocking IO）
- 非阻塞 I/O（nonblocking IO）
- I/O 多路複用（ IO multiplexing）
- 信號驅動 I/O（ signal driven IO）
- 異步 I/O（asynchronous IO）
 
  
注：因爲signal driven IO在實際中並不經常使用，因此我這隻說起剩下的四種IO Model。
 
  
阻塞 I/O（blocking IO）
 
  
在linux中，默認狀況下全部的socket都是blocking，一個典型的讀操做流程大概是這樣：
 
  
 
 
  
當用戶進程調用了recvfrom這個系統調用，kernel就開始了IO的第一個階段：準備數據（對於網絡IO來講，不少時候數據在一開始尚未到達。好比，尚未收到一個完整的UDP包。這個時候kernel就要等待足夠的數據到來）。這個過程須要等待，也就是說數據被拷貝到操做系統內核的緩衝區中是須要一個過程的。而在用戶進程這邊，整個進程會被阻塞（固然，是進程本身選擇的阻塞）。當kernel一直等到數據準備好了，它就會將數據從kernel中拷貝到用戶內存，而後kernel返回結果，用戶進程才解除block的狀態，從新運行起來。
 
  
 
   
因此，blocking IO的特色就是在IO執行的兩個階段都被block了。
 
  
 
  
非阻塞 I/O（nonblocking IO）
 
  
linux下，能夠經過設置socket使其變爲non-blocking。當對一個non-blocking socket執行讀操做時，流程是這個樣子：
 
  
 
  
 
 
  
當用戶進程發出read操做時，若是kernel中的數據尚未準備好，那麼它並不會block用戶進程，而是馬上返回一個error。從用戶進程角度講 ，它發起一個read操做後，並不須要等待，而是立刻就獲得了一個結果。用戶進程判斷結果是一個error時，它就知道數據尚未準備好，因而它能夠再次發送read操做。一旦kernel中的數據準備好了，而且又再次收到了用戶進程的system call，那麼它立刻就將數據拷貝到了用戶內存，而後返回。
 
  
 
   
因此，nonblocking IO的特色是用戶進程須要不斷的主動詢問kernel數據好了沒有。
 
  
 
  
I/O 多路複用（ IO multiplexing）
 
  
IO multiplexing就是咱們說的select，poll，epoll，有些地方也稱這種IO方式爲event driven IO。select/epoll的好處就在於單個process就能夠同時處理多個網絡鏈接的IO。它的基本原理就是select，poll，epoll這個function會不斷的輪詢所負責的全部socket，當某個socket有數據到達了，就通知用戶進程。
 
  
 
  
當用戶進程調用了select，那麼整個進程會被block，而同時，kernel會「監視」全部select負責的socket，當任何一個socket中的數據準備好了，select就會返回。這個時候用戶進程再調用read操做，將數據從kernel拷貝到用戶進程。
 
  
 
   
因此，I/O 多路複用的特色是經過一種機制一個進程能同時等待多個文件描述符，而這些文件描述符（套接字描述符）其中的任意一個進入讀就緒狀態，select()函數就能夠返回。
 
  
 
  
這個圖和blocking IO的圖其實並無太大的不一樣，事實上，還更差一些。由於這裏須要使用兩個system call (select 和 recvfrom)，而blocking IO只調用了一個system call (recvfrom)。可是，用select的優點在於它能夠同時處理多個connection。
 
  
因此，若是處理的鏈接數不是很高的話，使用select/epoll的web server不必定比使用multi-threading + blocking IO的web server性能更好，可能延遲還更大。select/epoll的優點並非對於單個鏈接能處理得更快，而是在於能處理更多的鏈接。）
 
  
在IO multiplexing Model中，實際中，對於每個socket，通常都設置成爲non-blocking，可是，如上圖所示，整個用戶的process實際上是一直被block的。只不過process是被select這個函數block，而不是被socket IO給block。
 
  
異步 I/O（asynchronous IO）
 
  
inux下的asynchronous IO其實用得不多。先看一下它的流程：
 
  
 
  
用戶進程發起read操做以後，馬上就能夠開始去作其它的事。而另外一方面，從kernel的角度，當它受到一個asynchronous read以後，首先它會馬上返回，因此不會對用戶進程產生任何block。而後，kernel會等待數據準備完成，而後將數據拷貝到用戶內存，當這一切都完成以後，kernel會給用戶進程發送一個signal，告訴它read操做完成了。
 
  
總結
 
  
blocking和non-blocking的區別
 
  
調用blocking IO會一直block住對應的進程直到操做完成，而non-blocking IO在kernel還準備數據的狀況下會馬上返回。
 
  
synchronous IO和asynchronous IO的區別
 
  
在說明synchronous IO和asynchronous IO的區別以前，須要先給出二者的定義。POSIX的定義是這樣子的：
- A synchronous I/O operation causes the requesting process to be blocked until that I/O operation completes;
- An asynchronous I/O operation does not cause the requesting process to be blocked;
 
  
二者的區別就在於synchronous IO作」IO operation」的時候會將process阻塞。按照這個定義，以前所述的blocking IO，non-blocking IO，IO multiplexing都屬於synchronous IO。
 
  
有人會說，non-blocking IO並無被block啊。這裏有個很是「狡猾」的地方，定義中所指的」IO operation」是指真實的IO操做，就是例子中的recvfrom這個system call。non-blocking IO在執行recvfrom這個system call的時候，若是kernel的數據沒有準備好，這時候不會block進程。可是，當kernel中數據準備好的時候，recvfrom會將數據從kernel拷貝到用戶內存中，這個時候進程是被block了，在這段時間內，進程是被block的。
 
  
而asynchronous IO則不同，當進程發起IO 操做以後，就直接返回不再理睬了，直到kernel發送一個信號，告訴進程說IO完成。在這整個過程當中，進程徹底沒有被block。
 
  
各個IO Model的比較如圖所示：
 
  
 
  
經過上面的圖片，能夠發現non-blocking IO和asynchronous IO的區別仍是很明顯的。在non-blocking IO中，雖然進程大部分時間都不會被block，可是它仍然要求進程去主動的check，而且當數據準備完成之後，也須要進程主動的再次調用recvfrom來將數據拷貝到用戶內存。而asynchronous IO則徹底不一樣。它就像是用戶進程將整個IO操做交給了他人（kernel）完成，而後他人作完後發信號通知。在此期間，用戶進程不須要去檢查IO操做的狀態，也不須要主動的去拷貝數據。
 
  
I/O 多路複用之select、poll、epoll詳解
 
  
select，poll，epoll都是IO多路複用的機制。I/O多路複用就是經過一種機制，一個進程能夠監視多個描述符，一旦某個描述符就緒（通常是讀就緒或者寫就緒），可以通知程序進行相應的讀寫操做。但select，poll，epoll本質上都是同步I/O，由於他們都須要在讀寫事件就緒後本身負責進行讀寫，也就是說這個讀寫過程是阻塞的，而異步I/O則無需本身負責進行讀寫，異步I/O的實現會負責把數據從內核拷貝到用戶空間。（這裏囉嗦下）
 
  
select
 
  
 
   
 
    
 
     
 
       
       
 
         
         

           1 
         
 		 
         
         
 
          
 
           select(rlist, wlist, xlist, timeout 
           = 
           None 
           ) 
          
 
         
 		 
       
 
       
     
 
    
 
   
 
  
 
  
select 函數監視的文件描述符分3類，分別是writefds、readfds、和exceptfds。調用後select函數會阻塞，直到有描述副就緒（有數據 可讀、可寫、或者有except），或者超時（timeout指定等待時間，若是當即返回設爲null便可），函數返回。當select函數返回後，能夠 經過遍歷fdset，來找到就緒的描述符。
 
  
select目前幾乎在全部的平臺上支持，其良好跨平臺支持也是它的一個優勢。select的一 個缺點在於單個進程可以監視的文件描述符的數量存在最大限制，在Linux上通常爲1024，能夠經過修改宏定義甚至從新編譯內核的方式提高這一限制，但 是這樣也會形成效率的下降。
 
  
poll
 
  
 
   
 
    
 
     
 
       
       
 
         
         

           1 
         
 		 
         
         
 
          
 
           int  
           poll (struct pollfd  
           * 
           fds, unsigned  
           int  
           nfds,  
           int  
           timeout); 
          
 
         
 		 
       
 
       
     
 
    
 
   
 
  
 
  
不一樣與select使用三個位圖來表示三個fdset的方式，poll使用一個 pollfd的指針實現。
 
  
struct pollfd { int fd; /* file descriptor */ short events; /* requested events to watch */ short revents; /* returned events witnessed */ }; 
 
  
pollfd結構包含了要監視的event和發生的event，再也不使用select「參數-值」傳遞的方式。同時，pollfd並無最大數量限制（可是數量過大後性能也是會降低）。 和select函數同樣，poll返回後，須要輪詢pollfd來獲取就緒的描述符。
 
  
 
   
從上面看，select和poll都須要在返回後，經過遍歷文件描述符來獲取已經就緒的socket。事實上，同時鏈接的大量客戶端在一時刻可能只有不多的處於就緒狀態，所以隨着監視的描述符數量的增加，其效率也會線性降低。
 
  
 
  
epoll
 
  
epoll是在2.6內核中提出的，是以前的select和poll的加強版本。相對於select和poll來講，epoll更加靈活，沒有描述符限制。epoll使用一個文件描述符管理多個描述符，將用戶關係的文件描述符的事件存放到內核的一個事件表中，這樣在用戶空間和內核空間的copy只需一次。
 
  
一 epoll操做過程
 
  
epoll操做過程須要三個接口，分別以下：
 
  
 
   
 
    
 
     
 
       
       
 
         
         

           1 
         
 
         

           2 
         
 
         

           3 
         
 		 
         
         
 
          
 
           int  
           epoll_create( 
           int  
           size)； 
           //建立一個epoll的句柄，size用來告訴內核這個監聽的數目一共有多大 
          
 
          
 
           int  
           epoll_ctl( 
           int  
           epfd,  
           int  
           op,  
           int  
           fd,  
           struct  
           epoll_event *event)； 
          
 
          
 
           int  
           epoll_wait( 
           int  
           epfd,  
           struct  
           epoll_event * events,  
           int  
           maxevents,  
           int  
           timeout); 
          
 
         
 		 
       
 
       
     
 
    
 
   
 
  
 
  
1. int epoll_create(int size);
　　建立一個epoll的句柄，size用來告訴內核這個監聽的數目一共有多大，這個參數不一樣於select()中的第一個參數，給出最大監聽的fd+1的值，參數size並非限制了epoll所能監聽的描述符最大個數，只是對內核初始分配內部數據結構的一個建議。
　　當建立好epoll句柄後，它就會佔用一個fd值，在linux下若是查看/proc/進程id/fd/，是可以看到這個fd的，因此在使用完epoll後，必須調用close()關閉，不然可能致使fd被耗盡。
 
  
2. int epoll_ctl(int epfd, int op, int fd, struct epoll_event *event)；
　　函數是對指定描述符fd執行op操做。
　　- epfd：是epoll_create()的返回值。
　　- op：表示op操做，用三個宏來表示：添加EPOLL_CTL_ADD，刪除EPOLL_CTL_DEL，修改EPOLL_CTL_MOD。分別添加、刪除和修改對fd的監聽事件。
　　- fd：是須要監聽的fd（文件描述符）
　　- epoll_event：是告訴內核須要監聽什麼事
 
  
3. int epoll_wait(int epfd, struct epoll_event * events, int maxevents, int timeout);　　等待epfd上的io事件，最多返回maxevents個事件。　　參數events用來從內核獲得事件的集合，maxevents告以內核這個events有多大，這個maxevents的值不能大於建立epoll_create()時的size，參數timeout是超時時間（毫秒，0會當即返回，-1將不肯定，也有說法說是永久阻塞）。該函數返回須要處理的事件數目，如返回0表示已超時。
  
 
 



        

            

        	





    

		

            
相關文章

            

                

                

                    

                

            


            
相關標籤/搜索

            
        


    

        

            

        

        

        
        

        

        

    




	

    





    

    	

    

        每日一句
    

    
    
    	每一个你不满意的现在，都有一个你没有努力的曾经。
    







    

    


    



    

        本站公眾號
    

    

           歡迎關注本站公眾號,獲取更多信息

        
    




    

    




	


	







    

        聯繫我們
        最近搜索
        最新文章
        
        沪ICP备13005482号-10

            MyBatis教程
            SQL 教程
            MySQL教程
            Java 教程
            Thymeleaf 教程
            Hibernate教程
            Spring教程 
            Redis教程