問題描述
模擬高并發(fā)的場景,會出現(xiàn)批量的 TIME_WAIT 的 TCP 連接:短時間后,所有的 TIME_WAIT 全都消失,被回收,端口包括服務(wù),均正常。即,在高并發(fā)的場景下,TIME_WAIT 連接存在,屬于正?,F(xiàn)象。線上場景中,持續(xù)的高并發(fā)場景:
-
一部分 TIME_WAIT 連接被回收,但新的 TIME_WAIT 連接產(chǎn)生;
-
一些極端情況下,會出現(xiàn)大量的 TIME_WAIT 連接。
Think:上述大量的 TIME_WAIT 狀態(tài) TCP 連接,有什么業(yè)務(wù)上的影響嗎?Nginx 作為反向代理時,大量的短鏈接,可能導(dǎo)致 Nginx 上的 TCP 連接處于 time_wait 狀態(tài):
-
每一個 time_wait 狀態(tài),都會占用一個「本地端口」,上限為 65535(16 bit,2 Byte);
-
當(dāng)大量的連接處于 time_wait 時,新建立 TCP 連接會出錯,address already in use : connect 異常
// 統(tǒng)計:各種連接的數(shù)量
$ netstat -n | awk '/^tcp/ {++S[$NF]} END {for(a in S) print a, S[a]}'
ESTABLISHED 1154
TIME_WAIT 1645
Tips:TCP 本地端口數(shù)量,上限為 65535(6.5w),這是因為 TCP 頭部使用 16 bit,存儲「端口號」,因此約束上限為 65535。問題分析
大量的 TIME_WAIT 狀態(tài) TCP 連接存在,其本質(zhì)原因是什么?-
大量的短連接存在
-
特別是 HTTP 請求中,如果 connection 頭部取值被設(shè)置為 close 時,基本都由「服務(wù)端」發(fā)起主動關(guān)閉連接
-
而,TCP 四次揮手關(guān)閉連接機(jī)制中,為了保證 ACK 重發(fā)和丟棄延遲數(shù)據(jù),設(shè)置 time_wait 為 2 倍的 MSL(報文最大存活時間)
-
TCP 連接中,主動關(guān)閉連接的一方出現(xiàn)的狀態(tài);(收到 FIN 命令,進(jìn)入 TIME_WAIT 狀態(tài),并返回 ACK 命令)
-
保持 2 個 MSL 時間,即,4 分鐘;(MSL 為 2 分鐘)
解決辦法
解決上述 time_wait 狀態(tài)大量存在,導(dǎo)致新連接創(chuàng)建失敗的問題,一般解決辦法:-
客戶端,HTTP 請求的頭部,connection 設(shè)置為 keep-alive,保持存活一段時間:現(xiàn)在的瀏覽器,一般都這么進(jìn)行了
-
服務(wù)器端 允許 time_wait 狀態(tài)的 socket 被重用 縮減 time_wait 時間,設(shè)置為 1 MSL(即,2 mins)
結(jié)論:幾個核心要點
-
time_wait 狀態(tài)的影響:
-
TCP 連接中,「主動發(fā)起關(guān)閉連接」的一端,會進(jìn)入 time_wait 狀態(tài)
-
time_wait 狀態(tài),默認(rèn)會持續(xù) 2 MSL(報文的最大生存時間),一般是 2x2 mins
-
time_wait 狀態(tài)下,TCP 連接占用的端口,無法被再次使用
-
TCP 端口數(shù)量,上限是 6.5w(65535,16 bit)
-
大量 time_wait 狀態(tài)存在,會導(dǎo)致新建 TCP 連接會出錯,address already in use : connect 異常
-
現(xiàn)實場景:
-
服務(wù)器端,一般設(shè)置:不允許「主動關(guān)閉連接」
-
但 HTTP 請求中,http 頭部 connection 參數(shù),可能設(shè)置為 close,則,服務(wù)端處理完請求會主動關(guān)閉 TCP 連接
-
現(xiàn)在瀏覽器中, HTTP 請求 connection 參數(shù),一般都設(shè)置為 keep-alive
-
Nginx 反向代理場景中,可能出現(xiàn)大量短鏈接,服務(wù)器端,可能存在
-
解決辦法:
-
服務(wù)器端允許 time_wait 狀態(tài)的 socket 被重用
-
縮減 time_wait 時間,設(shè)置為 1 MSL(即,2 mins)
附錄
幾個方面:-
TCP 連接狀態(tài)的查詢
-
MSL 時間
-
TCP 三次握手和四次握手
// Mac 下,查詢 TCP 連接狀態(tài)
$ netstat -nat |grep TIME_WAIT
// Mac 下,查詢 TCP 連接狀態(tài),其中 -E 表示 grep 或的匹配邏輯
$ netstat -nat | grep -E "TIME_WAIT|Local Address"
Proto Recv-Q Send-Q Local Address Foreign Address (state)
tcp4 0 0 127.0.0.1.1080 127.0.0.1.59061 TIME_WAIT
// 統(tǒng)計:各種連接的數(shù)量
$ netstat -n | awk '/^tcp/ {++S[$NF]} END {for(a in S) print a, S[a]}'
ESTABLISHED 1154
TIME_WAIT 1645
附錄 B:MSL 時間 MSL,Maximum Segment Lifetime,“報文最大生存時間”-
任何報文在網(wǎng)絡(luò)上存在的最長時間,超過這個時間報文將被丟棄。(IP 報文)
-
TCP報文 (segment)是ip數(shù)據(jù)報(datagram)的數(shù)據(jù)部分。
-
當(dāng)TCP的一端發(fā)起主動關(guān)閉(收到 FIN 請求),在發(fā)出最后一個ACK 響應(yīng)后,即第3次握 手完成后,發(fā)送了第四次握手的ACK包后,就進(jìn)入了TIME_WAIT狀態(tài)。
-
必須在此狀態(tài)上停留兩倍的MSL時間,等待2MSL時間主要目的是怕最后一個 ACK包對方?jīng)]收到,那么對方在超時后將重發(fā)第三次握手的FIN包,主動關(guān)閉端接到重發(fā)的FIN包后,可以再發(fā)一個ACK應(yīng)答包。
-
在 TIME_WAIT 狀態(tài)時,兩端的端口不能使用,要等到2MSL時間結(jié)束,才可繼續(xù)使用。(IP 層)
-
當(dāng)連接處于2MSL等待階段時,任何遲到的報文段都將被丟棄。 不過在實際應(yīng)用中,可以通過設(shè)置 「SO_REUSEADDR選項」,達(dá)到不必等待2MSL時間結(jié)束,即可使用被占用的端口。
-
三次握手,建立連接過程
-
四次揮手,釋放連接過程
良許花了一個半月的時間研發(fā)了一門 Linux 命令課程,歡迎購買學(xué)習(xí)!
審核編輯 :李倩
-
服務(wù)器
+關(guān)注
關(guān)注
12文章
9204瀏覽量
85548 -
TCP
+關(guān)注
關(guān)注
8文章
1362瀏覽量
79111
原文標(biāo)題:服務(wù)端 TCP 連接TIME_WAIT怎么破?77%的人都不知道~
文章出處:【微信號:良許Linux,微信公眾號:良許Linux】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論