一臺機器最多能撐多少個TCP鏈接? 今天掰扯清楚!

在網絡開發中,我發現有不少同窗對一個基礎問題始終是沒有完全搞明白。那就是一臺機器最大究竟能支持多少個網絡鏈接?我想我有必要單獨發一篇文章來好好說一下這個問題。不少同窗看到這個問題的第一反應是65535。緣由是:「據說端口號最多有65535個,那長鏈接就最多保持65535個了」。是這樣的嗎?還有的人說是應該受TCP鏈接裏四元組的空間大小限制,這樣算起來就是很是很是大的一個數字了。這兩個答案都對,也都不對。php

其實要想把這個問題搞清楚,最最最關鍵的地方在於要把TCP鏈接的兩端裏的角色分清楚-客戶端和服務器端。你手頭的任何一臺服務器,通常狀況下都便是服務器,又是客戶端。例如對於你的開發的後端接口,對於用戶來講你是服務器端。但你得請求Redis、Mysql去獲取數據,這時候又變成了客戶端。若是不把這臺機器做爲客戶端和服務器端兩種角色拆開來理解,你將永遠被這個問題困惑下去。 因此本文分別從客戶端、服務端兩塊來展開聊聊。golang

客戶端

如今咱們單獨來講客戶端,當一臺機器做爲客戶端的時候,究竟能支持多少個TCP鏈接? 空嘴說沒有啥意思,咱們直接用代碼來試試。sql

1.小試牛刀

開始實驗以前咱們先來check下手頭機器上的端口數量的配置後端

$ sysctl -a | grep ip_local_port_range
net.ipv4.ip_local_port_range = 15000	65000

經過上述內核參數的輸出看到內核開放了50000個端口能夠供TCP鏈接使用。接下來是一段看起來長,但其實很是簡單的TCP客戶端鏈接的代碼。用它來鏈接你的任意一個TCP Server,好比Nginx、Redis啥的均可以。緩存

file

我經過這段代碼對個人某臺機器上的Nginx發起了鏈接服務器

$ php client1.php 某臺服務器IP 80

經過netstat命令看到鏈接數量穩步上升,但當上升到5W的時候,出現了一條報錯網絡

socket_connect() 失敗的緣由是:Cannot assign requested address

回頭想一想咱們的ip_local_port_range參數值,65000-15000就只開放了5萬個。實際上是超過這個限制了。 這個時候咱們彷佛能夠初步得出一個相結論.當Linux做爲客戶端創建鏈接的時候,最大鏈接數量是受內核參數net.ipv4.ip_local_port_range限制 而ip_local_port_range是可配置的,最大理論範圍是0-65535併發

進階

若是這個時候你相信了我上面的結論的話,就又被我帶了溝裏了。爲何這麼說,讓咱們來看下面的實驗。socket

首先經過ifconfig命令看到個人機器上有兩塊網卡,每塊網卡都已經配置好了一個ip。tcp

file

接着咱們修改一下第一個實驗的代碼,在發起鏈接以前容許使用socket_bind來綁定ip。

file

接下來咱們分別啓動兩個控制檯,分別執行一下代碼。其中10.143.x.x和10.153.x.x是實驗用機的兩個網卡ip。

$ php client1.php 10.143.x.x 某臺服務器IP 80
$ php client2.php 10.153.x.x 某臺服務器IP 80

這個時候經過ss命令監控本機的ESTABLISH鏈接,發現已經突破5萬,並向10萬逼近了。

$ ss -n | grep ESTAB | wc –l
90005

如今咱們終於能夠得出更爲正確的結論了,對於有1個Ip的客戶端來講,受限於ip_local_port_range參數,也受限於65535。但單Linux能夠配置多個ip,有幾個ip,最大理論值就翻幾倍

多張網卡不是必須的。即便只有一張網卡,也能夠配置多ip。k8s就是這麼幹的,在k8s裏,一臺物理機上能夠部署多個pod。但每個pod都會被分配一個獨立的ip,因此徹底不用擔憂物理機上部署了過多的pod而影響你用的pod裏的TCP鏈接數量。在ip給你的那一刻,你的pod就和其它應用隔離開了。

服務端

咱們如今在來回頭考慮服務器端。對於服務器來講,最大支持的併發鏈接是多少呢?就有人開始可愛地糊塗了:「服務器端理論也是端口限制嗎?」。好,假設若是受影響的話,那咱們的Nginx服務器只監聽了一個80端口。那Nginx只能接受一個TCP鏈接嘍?這明顯是太荒唐了。

好,咱們再看另一個靠譜一點的答案。那就是一條TCP鏈接是由一個四元組組成的。不考慮地址重用(unix的SO_REUSEADDR選項)的狀況下,對於咱們這臺Nginx Server來講,它的IP和端口是固定的。cp鏈接4元組中只有remote ip(也就是client ip)和remote port(客戶端port)是可變的。它可能創建的最大的鏈接數是2的32次方(ip數)×2的16次方(port數)。這是2.8*10的14次方的一個大數字,兩百萬億!!

Linux上除了監聽80之外,還能夠監聽其它的端口,例如Mysql的3306, Redis的6339,固然全部65535個端口你均可以用來監聽一遍。這樣理論上線就到了2的32次方(ip數)×2的16次方(port數)×2的16次方(服務器port數)個。感興趣你能夠算一下,這個基本至關於無窮個了。

不過理想和實際老是會有差距的,由於Linux每維護一條TCP鏈接都要花費資源。處理鏈接請求,保活,數據的收發時須要消耗一些CPU,維持TCP鏈接主要消耗內存。咱們題目的問題是考慮最大多少個鏈接,因此咱們先不考慮數據的收發。那麼TCP在靜止的狀態下,就不怎麼消耗CPU了,主要消耗內存。而Linux上內存是有限的。
咱們今天先直接把結論拋出來,一條TCP鏈接若是不發送數據的話,消耗內存是3.3K左右。若是有數據發送,須要爲每條TCP分配發送緩存區,大小受你的參數net.ipv4.tcp_wmem配置影響,默認狀況下最小是4K。若是發送結束,緩存區消耗的內存會被回收詳細的分析過程敬請期待接下來的另外一篇文章。

假設你只保持鏈接不發送數據,那麼你服務器能夠創建的鏈接最大數量 = 你的內存/3.3K。 假如是4GB的內存,那麼大約可接受的TCP鏈接數量是100萬左右。

這個例子裏,咱們考慮的前提是在一個進程下hold全部的服務器端鏈接。而在實際中的項目裏,爲了收發數據方便,不少網絡IO模型還會爲TCP鏈接再建立一個線程或協程。拿最輕量的golang來講,一個協程棧也須要2KB的內存開銷。

結論

一臺機器最大究竟能支持多少個網絡鏈接?這個簡單的問題裏其實埋了坑,致使無數的英雄好漢被困惑不解。就和樹上九隻鳥打死一隻還剩幾隻的問題同樣,沒有和你說清楚樹上是真鳥,仍是假鳥。也沒有說槍是有聲仍是無聲的。經過今天的分析,相信你終於能夠揚眉吐氣把這個問題踩在腳下摩擦了。

  • TCP鏈接的客戶端機:每個ip可創建的TCP鏈接理論受限於ip_local_port_range參數,也受限於65535。但能夠經過配置多ip的方式來加大本身的創建鏈接的能力。
  • TCP鏈接的服務器機:每個監聽的端口雖然理論值很大,但這個數字沒有實際意義。最大併發數取決你的內存大小,每一條靜止狀態的TCP鏈接大約須要吃3
    .3K的內存。

個人公衆號是「開發內功修煉」,在這裏我不是單純介紹技術理論,也不僅介紹實踐經驗。而是把理論與實踐結合起來,用實踐加深對理論的理解、用理論提升你的技術實踐能力。歡迎你來關注個人公衆號,也請分享給你的好友~~~

相關文章
相關標籤/搜索