Kqueue與epoll機制

首先介紹阻塞與非阻塞：
阻塞是個什麼概念呢？好比某個時候你在等快遞，可是你不知道快遞何時過來，並且你沒有別的事能夠幹（或者說接下來的事要等快遞來了才能作）；那麼你能夠去睡覺了，由於你知道快遞把貨送來時必定會給你打個電話（假定必定能叫醒你）。

非阻塞忙輪詢。接着上面等快遞的例子，若是用忙輪詢的方法，那麼你須要知道快遞員的手機號，而後每分鐘給他掛個電話：「你到了沒？」

很明顯通常人不會用第二種作法，不只顯很無腦，浪費話費不說，還佔用了快遞員大量的時間。
大部分程序也不會用第二種作法，由於第一種方法經濟而簡單，經濟是指消耗不多的CPU時間，若是線程睡眠了，就掉出了系統的調度隊列，暫時不會去瓜分CPU寶貴的時間片了。

爲了瞭解阻塞是如何進行的，咱們來討論緩衝區，以及內核緩衝區，最終把I/O事件解釋清楚。緩衝區的引入是爲了減小頻繁I/O操做而引發頻繁的系統調用，當你操做一個流時，更多的是以緩衝區爲單位進行操做，這是相對於用戶空間而言。對於內核來講，也須要緩衝區。
假設有一個管道，進程A爲管道的寫入方，Ｂ爲管道的讀出方。

1. 假設一開始內核緩衝區是空的，B做爲讀出方，被阻塞着。而後首先A往管道寫入，這時候內核緩衝區由空的狀態變到非空狀態，內核就會產生一個事件告訴Ｂ該醒來了，這個事件姑且稱之爲「緩衝區非空」。
2. 可是「緩衝區非空」事件通知B後，B卻尚未讀出數據；且內核許諾了不能把寫入管道中的數據丟掉這個時候，Ａ寫入的數據會滯留在內核緩衝區中，若是內核也緩衝區滿了，B仍未開始讀數據，最終內核緩衝區會被填滿，這個時候會產生一個I/O事件，告訴進程A，你該等等（阻塞）了，咱們把這個事件定義爲「緩衝區滿」。
3. 假設後來Ｂ終於開始讀數據了，因而內核的緩衝區空了出來，這時候內核會告訴A，內核緩衝區有空位了，你能夠從長眠中醒來了，繼續寫數據了，咱們把這個事件叫作「緩衝區非滿」
4. 也許事件Y1已經通知了A，可是A也沒有數據寫入了，而Ｂ繼續讀出數據，知道內核緩衝區空了。這個時候內核就告訴B，你須要阻塞了！，咱們把這個時間定爲「緩衝區空」。

這四個情形涵蓋了四個I/O事件，緩衝區滿，緩衝區空，緩衝區非空，緩衝區非滿（說的內核緩衝區）。這四個I/O事件是進行阻塞同步的根本。

阻塞I/O模式下，一個線程只能處理一個流的I/O事件。若是想要同時處理多個流，要麼多進程(fork)，要麼多線程(pthread_create)，很不幸這兩種方法效率都不高。
因而再來考慮非阻塞忙輪詢的I/O方式，咱們發現咱們能夠同時處理多個流了：

while true { for i in stream[]; { if i has data read until unavailable } }

 

咱們只要不停的把全部流從頭至尾問一遍，又從頭開始。這樣就能夠處理多個流了，但這樣的作法顯然很差，由於若是全部的流都沒有數據，那麼只會白白浪費CPU。阻塞模式下，內核對於I/O事件的處理是阻塞或者喚醒，而非阻塞模式下則把I/O事件交給其餘對象。

爲了不CPU空轉，能夠引進了一個代理（select）。這個代理能夠同時觀察許多流的I/O事件，在空閒的時候，會把當前線程阻塞掉，當有一個或多個流有I/O事件時，就從阻塞態中醒來，因而咱們的程序就會輪詢一遍全部的流。

while true { select(streams[]) for i in streams[] { if i has data read until unavailable } }

 

若是沒有I/O事件產生，咱們的程序就會阻塞在select處。可是依然有個問題，咱們從select那裏僅僅知道了，有I/O事件發生了，但卻並不知道是那幾個流（可能有一個，多個，甚至所有），咱們只能無差異輪詢全部流，找出能讀出數據，或者寫入數據的流，對他們進行操做。
可是使用select，咱們有O(n)的無差異輪詢複雜度，同時處理的流越多，每一次無差異輪詢時間就越長。

select/poll是經過輪詢的方法來得到就緒的狀態，調用select/poll後就阻塞住，直到有就緒的文件描述符，或者超時，或者被中斷。返回值是就緒的文件描述符的個數，須要遍歷做爲參數傳入的文件描述符的位域或數組得到哪一個文件描述符。

因此引入epoll：
epoll能夠理解爲event poll，不一樣於忙輪詢和無差異輪詢，epoll之會把哪一個流發生了怎樣的I/O事件通知咱們。此時咱們對這些流的操做都是有意義的。（複雜度下降到了O(k)，k爲產生I/O事件的流的個數，也有認爲O(1)）

epoll是經過後臺中斷的方式來得到就緒的狀態，調用epoll_create建立實例，調用epoll_ctl添加或刪除監控的文件描述符，調用epoll_wait阻塞住，直到有就緒的文件描述符，經過epoll_event參數返回就緒狀態的文件描述符和事件

• epoll_create 建立一個epoll對象，通常epollfd = epoll_create()
• epoll_ctl （epoll_add/epoll_del的合體），往epoll對象中增長/刪除某一個流的某一個事件
  好比
  epoll_ctl(epollfd, EPOLL_CTL_ADD, socket, EPOLLIN);//有緩衝區內有數據時epoll_wait返回
  epoll_ctl(epollfd, EPOLL_CTL_DEL, socket, EPOLLOUT);//緩衝區可寫入時epoll_wait返回
• epoll_wait(epollfd,...)等待直到註冊的事件發生

（注：當對一個非阻塞流的讀寫發生緩衝區滿或緩衝區空，write/read會返回-1，並設置errno=EAGAIN。而epoll只關心緩衝區非滿和緩衝區非空事件）。
一個epoll模式的代碼如：

while true { active_stream[] = epoll_wait(epollfd) for i in active_stream[] { read or write till unavailable } }

epoll的原理就是：
你把要監控讀寫的文件交給內核（epoll_add)
設置你關心的事件（epoll_ctl），好比讀事件
而後等（epoll_wait），此時，若是沒有哪一個文件有你關心的事件，則休眠，直到有事件，被喚醒
而後返回那些事件實現併發，還須要配合非阻塞的讀寫。這樣就能夠一下蒐集一大把文件（套接字），而後一下讀寫一大把文件（不會由於某個文件慢而阻塞），這樣來實現併發。

epoll的優點在於，由接收數據的OS來負責通知你有數據能夠操做，由於OS是知道何時有數據的。
仍然用快遞例子來講，ePoll的優點就是，你能夠隨便作其餘的事情，當有快遞來的時候，他給你打電話讓你來拿，你空了的時候下來拿就行了。
不像阻塞那樣須要一直在窗邊看着快遞來沒來，也不須要像select那樣不停地打電話問快遞來沒來。尤爲是在快遞比較多的時候，select須要問快遞你沒有你的快遞，快遞說有的時候，你還須要逐個問某一個包裹到沒到；ePoll會直接告訴你，你的哪一個包裹的快遞到了。

 

kqueue與epoll很是類似，最初是2000年Jonathan Lemon在FreeBSD系統上開發的一個高性能的事件通知接口。註冊一批socket描述符到 kqueue 之後，當其中的描述符狀態發生變化時，kqueue 將一次性通知應用程序哪些描述符可讀、可寫或出錯了。

kqueue的接口包括 kqueue()、kevent() 兩個系統調用和 struct kevent 結構：

1. kqueue() 生成一個內核事件隊列，返回該隊列的文件描述符。其它 API 經過該描述符操做這個 kqueue。
2. kevent() 提供向內核註冊 / 反註冊事件和返回就緒事件或錯誤事件。
3. struct kevent 就是kevent()操做的最基本的事件結構。

struct kevent { 
     uintptr_t ident;       /* 事件 ID */ 
     short     filter;       /* 事件過濾器 */ 
     u_short   flags;        /* 行爲標識 */ 
     u_int     fflags;       /* 過濾器標識值 */ 
     intptr_t  data;         /* 過濾器數據 */ 
     void      *udata;       /* 應用透傳數據 */ 
 };

在一個 kqueue 中，{ident, filter} 肯定一個惟一的事件：

• ident

  事件的 id，通常設置爲文件描述符。

• filter

  能夠將 kqueue filter 看做事件。內核檢測 ident 上註冊的 filter 的狀態，狀態發生了變化，就通知應用程序。kqueue 定義了較多的 filter：

   與socket讀寫相關的filter：

1. EVFILT_READ：TCP 監聽 socket，若是在完成的鏈接隊列 ( 已收三次握手最後一個 ACK) 中有數據，此事件將被通知。收到該通知的應用通常調用 accept()，且可經過 data 得到完成隊列的節點個數。 流或數據報 socket，當協議棧的 socket 層接收緩衝區有數據時，該事件會被通知，而且 data 被設置成可讀數據的字節數。
2. EVFILT_WRIT：當 socket 層的寫入緩衝區可寫入時，該事件將被通知；data 指示目前緩衝區有多少字節空閒空間。

　　

   行爲標誌flags：

1. EV_ADD：指示加入事件到 kqueue
2. EV_DELETE：指示將傳入的事件從 kqueue 中移除

　　

　過濾器標識值：

1. EV_ENABLE：過濾器事件可用，註冊一個事件時，默認是可用的。
2. EV_DISABLE：過濾器事件不可用，當內部描述可讀或可寫時，將不通知應用程序。

 

註冊事件到 kqueue

bool Register(int kq, int fd) 
{ 
      struct kevent changes[1]; 
      EV_SET(&changes[0], fd, EVFILT_READ, EV_ADD, 0, 0, NULL); 
  
      int ret = kevent(kq, changes, 1, NULL, 0, NULL); 
  
      return true; 
} 

 Register 將 fd 註冊到 kq 中。註冊的方法是經過 kevent() 將 eventlist 和 neventlist 置成 NULL 和 0 來達到的。

人們通常將 socket IO 設置成非阻塞模式，以提升讀寫性能的同時，避免 IO 讀寫不當心被鎖定。爲了達到某種目的，有人會經過 getsocketopt 來偷看 socket 讀緩衝區的數據大小或寫緩區可用空間的大小。在 kevent 返回時，將讀寫緩衝區的可讀字節數或可寫空間大小告訴應用程序。基於這個特性，使用 kqueue 的應用通常不使用非阻塞 IO。每次讀時，根據 kevent 返回的可讀字節大小，將接收緩衝區中的數據一次性讀完；而發送數據時，也根據 kevent 返回的寫緩衝區可寫空間的大小，一次只發可寫空間大小的數據。

 


文章部分整合知乎上關於epoll和select的回答：https://www.zhihu.com/question/20122137