首先,問題中描述的65535個(gè)連接指的是客戶端連接數(shù)的限制。
在tcp應(yīng)用中,server事先在某個(gè)固定端口監(jiān)聽,client主動發(fā)起連接,經(jīng)過三路握手后建立tcp連接。那么對單機(jī),其最大并發(fā)tcp連接數(shù)是多少呢?
如何標(biāo)識一個(gè)TCP連接
在確定最大連接數(shù)之前,先來看看系統(tǒng)如何標(biāo)識一個(gè)tcp連接。系統(tǒng)用一個(gè)4四元組來唯一標(biāo)識一個(gè)TCP連接:{localip, localport,remoteip,remoteport}。
client最大tcp連接數(shù)
client每次發(fā)起tcp連接請求時(shí),除非綁定端口,通常會讓系統(tǒng)選取一個(gè)空閑的本地端口(local port),該端口是獨(dú)占的,不能和其他tcp連接共享。tcp端口的數(shù)據(jù)類型是unsigned short,因此本地端口個(gè)數(shù)最大只有65536,端口0有特殊含義,不能使用,這樣可用端口最多只有65535,所以在全部作為client端的情況下,一個(gè)client最大tcp連接數(shù)為65535,這些連接可以連到不同的serverip。
server最大tcp連接數(shù)
server通常固定在某個(gè)本地端口上監(jiān)聽,等待client的連接請求。不考慮地址重用(unix的SO_REUSEADDR選項(xiàng))的情況下,即使server端有多個(gè)ip,本地監(jiān)聽端口也是獨(dú)占的,因此server端tcp連接4元組中只有remoteip(也就是clientip)和remote port(客戶端port)是可變的,因此最大tcp連接為客戶端ip數(shù)×客戶端port數(shù),對IPV4,不考慮ip地址分類等因素,最大tcp連接數(shù)約為2的32次方(ip數(shù))×2的16次方(port數(shù)),也就是server端單機(jī)最大tcp連接數(shù)約為2的48次方。
實(shí)際的tcp連接數(shù)
上面給出的是理論上的單機(jī)最大連接數(shù),在實(shí)際環(huán)境中,受到機(jī)器資源、操作系統(tǒng)等的限制,特別是sever端,其最大并發(fā)tcp連接數(shù)遠(yuǎn)不能達(dá)到理論上限。在unix/linux下限制連接數(shù)的主要因素是內(nèi)存和允許的文件描述符個(gè)數(shù)(每個(gè)tcp連接都要占用一定內(nèi)存,每個(gè)socket就是一個(gè)文件描述符),另外1024以下的端口通常為保留端口。
所以,對server端,通過增加內(nèi)存、修改最大文件描述符個(gè)數(shù)等參數(shù),單機(jī)最大并發(fā)TCP連接數(shù)超過10萬,甚至上百萬是沒問題的。
這明顯是進(jìn)入了思維的誤區(qū),65535是指可用的端口總數(shù),并不代表服務(wù)器同時(shí)只能接受65535個(gè)并發(fā)連接。
舉個(gè)例子:
我們做了一個(gè)網(wǎng)站,綁定的是TCP的80端口,結(jié)果是所有訪問這個(gè)網(wǎng)站的用戶都是通過服務(wù)器的80端口訪問,而不是其他端口??梢姸丝谑强梢詮?fù)用的。
即使Linux服務(wù)器只在80端口偵聽服務(wù), 也允許有10萬、100萬個(gè)用戶連接服務(wù)器。Linux系統(tǒng)不會限制連接數(shù)至于服務(wù)器能不能承受住這么多的連接,取決于服務(wù)器的硬件配置、軟件架構(gòu)及優(yōu)化。
我們知道兩個(gè)進(jìn)程如果需要進(jìn)行通訊最基本的一個(gè)前提是:能夠唯一的標(biāo)識一個(gè)進(jìn)程。在本地進(jìn)程通訊中我們可以使用PID來唯一標(biāo)識一個(gè)進(jìn)程,但PID只在本地唯一,網(wǎng)絡(luò)中的兩個(gè)進(jìn)程PID沖突幾率很大。
這時(shí)候就需要另辟它徑了,IP地址可以唯一標(biāo)示主機(jī),而TCP層協(xié)議和端口號可以唯一標(biāo)示主機(jī)的一個(gè)進(jìn)程,這樣可以利用IP地址+協(xié)議+端口號唯一標(biāo)示網(wǎng)絡(luò)中的一個(gè)進(jìn)程。
能夠唯一標(biāo)識網(wǎng)絡(luò)中的進(jìn)程后,它們就可以利用socket進(jìn)行通信了。socket(套接字)是在應(yīng)用層和傳輸層之間的一個(gè)抽象層,它把TCP/IP層復(fù)雜的操作抽象為幾個(gè)簡單的接口供應(yīng)用層調(diào)用以實(shí)現(xiàn)進(jìn)程在網(wǎng)絡(luò)中通信。
socket源自Unix,是一種"打開—讀/寫—關(guān)閉"模式的實(shí)現(xiàn),服務(wù)器和客戶端各自維護(hù)一個(gè)"文件",在建立連接打開后,可以向自己文件寫入內(nèi)容供對方讀取或者讀取對方內(nèi)容,通訊結(jié)束時(shí)關(guān)閉文件。
唯一能夠確定一個(gè)連接有4個(gè)東西:
服務(wù)器的IP
服務(wù)器的Port
客戶端的IP
客戶端的Port
服務(wù)器的IP和Port可以保持不變,只要客戶端的IP和Port彼此不同就可以確定一個(gè)連接數(shù)。
一個(gè)socket是可以建立多個(gè)連接的,一個(gè)TCP連接的標(biāo)記為一個(gè)四元組(source_ip, source_port, destination_ip, destination_port),即(源IP,源端口,目的IP,目的端口)四個(gè)元素的組合。只要四個(gè)元素的組合中有一個(gè)元素不一樣,那就可以區(qū)別不同的連接。
舉個(gè)例子:
你的主機(jī)IP地址是1.1.1.1, 在8080端口監(jiān)聽
當(dāng)一個(gè)來自 2.2.2.2 發(fā)來一條連接請求,端口為5555。這條連接的四元組為(1.1.1.1, 8080, 2.2.2.2, 5555)
這時(shí)2.2.2.2又發(fā)來第二條連接請求,端口為6666。新連接的四元組為(1.1.1.1, 8080, 2.2.2.2, 6666)
那么,你主機(jī)的8080端口建立了兩條連接;
(2.2.2.2)發(fā)來的第三條連接請求,端口為5555(或6666)。第三條連接的請求就無法建立,因?yàn)闆]有辦法區(qū)分于上面兩條連接。
同理,可以在同一個(gè)端口號和IP地址上綁定一個(gè)TCP socket和一個(gè)UDP socket 因?yàn)槎丝谔栯m然一樣,但由于協(xié)議不一樣,所以端口是完全獨(dú)立的。TCP/UDP一般采用五元組來定位一個(gè)連接:source_ip, source_port, destination_ip, destination_port, protocol_type即(源IP,源端口,目的IP,目的端口,協(xié)議號)
綜上所述,服務(wù)器的并發(fā)數(shù)并不是由TCP的65535個(gè)端口決定的。服務(wù)器同時(shí)能夠承受的并發(fā)數(shù)是由帶寬、硬件、程序設(shè)計(jì)等多方面因素決定的。
所以也就能理解淘寶、騰訊、頭條、百度、新浪、嗶嗶嗶嗶等為什么能夠承受住每秒鐘幾億次的并發(fā)訪問,是因?yàn)樗麄儾捎玫氖欠?wù)器集群。服務(wù)器集群分布在全國各地的大型機(jī)房,當(dāng)訪問量小的時(shí)候會關(guān)閉一些服務(wù)器,當(dāng)訪問量大的時(shí)候會不斷的開啟新的服務(wù)器。
65535從哪來的,干啥的?
要解釋好這個(gè)問題,就要先說清楚65535的含義。在Linux系統(tǒng)中,如果兩個(gè)機(jī)器要通信,那么相互之間需要建立TCP連接,為了讓雙方互相認(rèn)識,Linux系統(tǒng)用一個(gè)四元組來唯一標(biāo)識一個(gè)TCP連接:{local ip, local port, remote ip, remote port},即本機(jī)IP、本機(jī)端口、遠(yuǎn)程IP、遠(yuǎn)程端口,IP和端口就相當(dāng)于小區(qū)地址和門牌號,只有拿到這些信息,通信的雙方才能互相認(rèn)知。在Linux系統(tǒng)中,表示端口號(port)的變量占16位,這就決定了端口號最多有2的16次方個(gè),即65536個(gè),另外端口0有特殊含義不給使用,這樣每個(gè)服務(wù)器最多就有65535個(gè)端口可用。因此,65535代表Linux系統(tǒng)支持的TCP端口號數(shù)量,在TCP建立連接時(shí)會使用。
TCP怎么建立連接,與端口號是什么關(guān)系?
Linux服務(wù)器在交互時(shí),一般有兩種身份:客戶端或者服務(wù)器端。典型的交互場景是:
服務(wù)器端主動創(chuàng)建監(jiān)聽的socket,并綁定對外服務(wù)端口port,然后開始監(jiān)聽
客戶端想跟服務(wù)器端通信時(shí),就開始連接服務(wù)器的端口port
服務(wù)端接受客戶端的請求,然后再生成新的socket
服務(wù)器和客戶端在新的socket里進(jìn)行通信
可以看到,端口port主要用在服務(wù)器和客戶端的“握手認(rèn)識”過程,一旦互相認(rèn)識了,就會生成新的socket進(jìn)行通信,這時(shí)候port就不再需要了,可以給別的socket通信去使用,所以很明顯TCP連接的數(shù)量可以大于TCP端口號的數(shù)量65,535。
考慮一下兩個(gè)極端場景,即某臺Linux服務(wù)器只作為客戶端或者服務(wù)器端
(1)Linux服務(wù)器只作為客戶端
這時(shí)候每發(fā)起一個(gè)TCP請求,系統(tǒng)就會指定一個(gè)空閑的本地端口給你用,而且是獨(dú)占式的,不會被別的TCP連接搶走,這樣最多可以建立65535個(gè)連接,每個(gè)連接都與不同的服務(wù)器進(jìn)行交互。這種場景,就是題主所描述的樣子,但是由于條件過于苛刻,屬于小概率事件,所以更多的還是理論上的可能,現(xiàn)實(shí)的環(huán)境中幾乎不會出現(xiàn)。
(2)Linux服務(wù)器只作為服務(wù)端
這種場景下,服務(wù)端就會固定的監(jiān)聽本地端口port,等著客戶端來向它發(fā)起請求。為了計(jì)算簡單,我們假設(shè)服務(wù)器端的IP跟端口是多對一的,這樣TCP四元組里面就有remote ip和remote port是可變的,因此最大支持創(chuàng)建TCP個(gè)數(shù)為2的32次方(IP地址是32位的)乘以2的16次方(port是16位的)等于2的48次方。
現(xiàn)實(shí)中單臺Linux服務(wù)器支持的TCP連接數(shù)量
通過前面的分析我們知道,在現(xiàn)實(shí)場景中,由于存在端口port復(fù)用的情況,服務(wù)器可同時(shí)支持的TCP連接數(shù)跟65535沒有一一對應(yīng)關(guān)系,事實(shí)上,真正影響TCP連接數(shù)量的,是服務(wù)器的內(nèi)存以及允許單一進(jìn)程同時(shí)打開文件的數(shù)量,因?yàn)槊縿?chuàng)建一個(gè)TCP連接都要?jiǎng)?chuàng)建一個(gè)socket句柄,每個(gè)socket句柄都占用一部分系統(tǒng)內(nèi)存,當(dāng)系統(tǒng)內(nèi)存被占用殆盡,允許的TCP并發(fā)連接數(shù)也就到了上限。一般來講,通過增加服務(wù)器內(nèi)存、修改最大文件描述符個(gè)數(shù)等,可以做到單臺服務(wù)器支持10萬+的TCP并發(fā)。
當(dāng)然,在真實(shí)的商用場景下,單臺服務(wù)器都會編入分布式集群,通過負(fù)載均衡算法動態(tài)的調(diào)度不同用戶的請求給最空閑的服務(wù)器,如果服務(wù)器平均內(nèi)存使用超過80%的警戒線,那么就會及時(shí)采用限流或者擴(kuò)展集群的方式來保證服務(wù),絕對不會出現(xiàn)服務(wù)器的內(nèi)存被耗盡的情況,那樣就算事故了。
總之,65535只是Linux系統(tǒng)中可使用端口port數(shù)量的上限,端口port數(shù)量與TCP連接數(shù)量并非完全一一對應(yīng)的關(guān)系,服務(wù)器支持的TCP并發(fā)連接數(shù)量主要跟服務(wù)器的內(nèi)存以及允許單個(gè)進(jìn)程同時(shí)打開的文件數(shù)量有關(guān)系,通過端口復(fù)用及調(diào)整服務(wù)器參數(shù)等手段,單臺服務(wù)器支持的TCP并發(fā)連接數(shù)是可以高于65535的。
-
服務(wù)器
+關(guān)注
關(guān)注
12文章
9160瀏覽量
85415 -
操作系統(tǒng)
+關(guān)注
關(guān)注
37文章
6822瀏覽量
123331 -
TCP
+關(guān)注
關(guān)注
8文章
1353瀏覽量
79070 -
端口
+關(guān)注
關(guān)注
4文章
964瀏覽量
32077
原文標(biāo)題:【有點(diǎn)意思】一臺服務(wù)器?最大并發(fā) TCP 連接數(shù)多少?
文章出處:【微信號:浩道linux,微信公眾號:浩道linux】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論