0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

MySQL數(shù)據(jù)庫主從同步延遲產(chǎn)生的原因

馬哥Linux運維 ? 來源:稀土掘金 ? 2023-11-28 10:33 ? 次閱讀

一、MySQL數(shù)據(jù)庫主從同步延遲產(chǎn)生的原因

MySQL的主從復(fù)制都是單線程的操作,主庫對所有DDL和DML產(chǎn)生的日志寫進binlog,由于binlog是順序?qū)?,所以效率很高?br /> Slave的SQL Thread線程將主庫的DDL和DML操作事件在slave中重放。DML和DDL的IO操作是隨即的,不是順序的,成本高很多。另一方面,由于SQL Thread也是單線程的,當主庫的并發(fā)較高時,產(chǎn)生的DML數(shù)量超過slave的SQL Thread所能處理的速度,或者當slave中有大型query語句產(chǎn)生了鎖等待那么延時就產(chǎn)生了。
常見原因:Master負載過高、Slave負載過高、網(wǎng)絡(luò)延遲、機器性能太低、MySQL配置不合理。

二、關(guān)于DDL和DML

SQL語言共分為以下幾大類:查詢語言DQL,控制語言DCL,操縱語言DML,定義語言DDL。事務(wù)控制TCL

DQL(Data QUERY Languages)語句:即數(shù)據(jù)庫定義語句,用來查詢SELECT子句,F(xiàn)ROM子句,WHERE子句組成的查詢塊,比如:select–from–where–grouop by–having–order by–limit

DDL(Data Definition Languages)語句:即數(shù)據(jù)庫定義語句,用來創(chuàng)建數(shù)據(jù)庫中的表、索引、視圖、存儲過程、觸發(fā)器等,常用的語句關(guān)鍵字有:CREATE,ALTER,DROP,TRUNCATE,COMMENT,RENAME。增刪改表的結(jié)構(gòu)

DML(Data Manipulation Language)語句:即數(shù)據(jù)操縱語句,用來查詢、添加、更新、刪除等,常用的語句關(guān)鍵字有:SELECT,INSERT,UPDATE,DELETE,MERGE,CALL,EXPLAIN PLAN,LOCK TABLE,包括通用性的增刪改查。增刪改表的數(shù)據(jù)

DCL(Data Control Language)語句:即數(shù)據(jù)控制語句,用于授權(quán)/撤銷數(shù)據(jù)庫及其字段的權(quán)限(DCL is short name of Data Control Language which includes commands such as GRANT and mostly concerned with rights, permissions and other controls of the database system.)。常用的語句關(guān)鍵字有:GRANT,REVOKE。

TCL(Transaction Control Language)語句:事務(wù)控制語句,用于控制事務(wù),常用的語句關(guān)鍵字有:COMMIT,ROLLBACK,SAVEPOINT,SET TRANSACTION。

三、主從延時排查方法

通過監(jiān)控 show slave status 命令輸出的Seconds_Behind_Master參數(shù)的值來判斷:

NULL,表示io_thread或是sql_thread有任何一個發(fā)生故障;

0,該值為零,表示主從復(fù)制良好;

正值,表示主從已經(jīng)出現(xiàn)延時,數(shù)字越大表示從庫延遲越嚴重

8f075dac-8d14-11ee-939d-92fbcf53809c.jpg

四、解決方案

解決數(shù)據(jù)丟失的問題:

半同步復(fù)制

從MySQL5.5開始,MySQL已經(jīng)支持半同步復(fù)制了,半同步復(fù)制介于異步復(fù)制和同步復(fù)制之間,主庫在執(zhí)行完事務(wù)后不立刻返回結(jié)果給客戶端,需要等待至少一個從庫接收到并寫到relay log中才返回結(jié)果給客戶端。相對于異步復(fù)制,半同步復(fù)制提高了數(shù)據(jù)的安全性,同時它也造成了一個TCP/IP往返耗時的延遲。

主庫配置sync_binlog=1,innodb_flush_log_at_trx_commit=1 sync_binlog的默認值是0,MySQL不會將binlog同步到磁盤,其值表示每寫多少binlog同步一次磁盤。

innodb_flush_log_at_trx_commit為1表示每一次事務(wù)提交或事務(wù)外的指令都需要把日志flush到磁盤。

注意:將以上兩個值同時設(shè)置為1時,寫入性能會受到一定限制,只有對數(shù)據(jù)安全性要求很高的場景才建議使用,比如涉及到錢的訂單支付業(yè)務(wù),而且系統(tǒng)I/O能力必須可以支撐!

4.1 解決從庫復(fù)制延遲的問題:

架構(gòu)方面

業(yè)務(wù)的持久化層的實現(xiàn)采用分庫架構(gòu),mysql服務(wù)可平行擴展,分散壓力。

單個庫讀寫分離,一主多從,主寫從讀,分散壓力。這樣從庫壓力比主庫高,保護主庫。

服務(wù)的基礎(chǔ)架構(gòu)在業(yè)務(wù)和mysql之間加入memcache或者redis的cache層。降低mysql的讀壓力。

不同業(yè)務(wù)的mysql物理上放在不同機器,分散壓力。

使用比主庫更好的硬件設(shè)備作為slave,mysql壓力小,延遲自然會變小。

硬件方面

采用好服務(wù)器,比如4u比2u性能明顯好,2u比1u性能明顯好。

存儲用ssd或者盤陣或者san,提升隨機寫的性能。

主從間保證處在同一個交換機下面,并且是萬兆環(huán)境。

總結(jié),硬件強勁,延遲自然會變小。一句話,縮小延遲的解決方案就是花錢和花時間。

mysql主從同步加速

sync_binlog在slave端設(shè)置為0

–logs-slave-updates 從服務(wù)器從主服務(wù)器接收到的更新不記入它的二進制日志。

直接禁用slave端的binlog

.slave端,如果使用的存儲引擎是innodb,innodb_flush_log_at_trx_commit =2

從文件系統(tǒng)本身屬性角度優(yōu)化

master端修改linux、Unix文件系統(tǒng)中文件的etime屬性, 由于每當讀文件時OS都會將讀取操作發(fā)生的時間回寫到磁盤上,對于讀操作頻繁的數(shù)據(jù)庫文件來說這是沒必要的,只會增加磁盤系統(tǒng)的負擔影響I/O性能??梢酝ㄟ^設(shè)置文件系統(tǒng)的mount屬性,組織操作系統(tǒng)寫atime信息,在linux上的操作為:打開/etc/fstab,加上noatime參數(shù)/dev/sdb1 /data reiserfs noatime 1 2然后重新mount文件系統(tǒng)#mount -oremount /data

同步參數(shù)調(diào)整主庫是寫,對數(shù)據(jù)安全性較高,比如sync_binlog=1,

innodb_flush_log_at_trx_commit = 1 之類的設(shè)置是需要的而slave則不需要這么高的數(shù)據(jù)安全,完全可以講sync_binlog設(shè)置為0或者關(guān)閉binlog,innodb_flushlog也可以設(shè)置為0來提高sql的執(zhí)行效率

4.2 MySql數(shù)據(jù)庫從庫同步其他問題及解決方案

mysql主從復(fù)制存在的問題:

主庫宕機后,數(shù)據(jù)可能丟失

從庫只有一個sql Thread,主庫寫壓力大,復(fù)制很可能延時

解決方法:

半同步復(fù)制—解決數(shù)據(jù)丟失的問題

并行復(fù)制----解決從庫復(fù)制延遲的問題

半同步復(fù)制mysql semi-sync(半同步復(fù)制)半同步復(fù)制:

5.5集成到mysql,以插件的形式存在,需要單獨安裝

確保事務(wù)提交后binlog至少傳輸?shù)揭粋€從庫

不保證從庫應(yīng)用完這個事務(wù)的binlog

性能有一定的降低,響應(yīng)時間會更長

網(wǎng)絡(luò)異常或從庫宕機,卡主主庫,直到超時或從庫恢復(fù)

主從復(fù)制–異步復(fù)制原理、半同步復(fù)制和并行復(fù)制原理比較

8f231f88-8d14-11ee-939d-92fbcf53809c.jpg

8f32d25c-8d14-11ee-939d-92fbcf53809c.jpg

審核編輯:黃飛

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 服務(wù)器
    +關(guān)注

    關(guān)注

    12

    文章

    9429

    瀏覽量

    86503
  • SSD
    SSD
    +關(guān)注

    關(guān)注

    21

    文章

    2909

    瀏覽量

    118333
  • 數(shù)據(jù)庫
    +關(guān)注

    關(guān)注

    7

    文章

    3868

    瀏覽量

    65020
  • Linu
    +關(guān)注

    關(guān)注

    0

    文章

    26

    瀏覽量

    19896
  • MySQL
    +關(guān)注

    關(guān)注

    1

    文章

    836

    瀏覽量

    26941

原文標題:MySQL主從同步延遲原因與解決方案

文章出處:【微信號:magedu-Linux,微信公眾號:馬哥Linux運維】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    labview有調(diào)用mysql數(shù)據(jù)庫問題????

    labview有調(diào)用mysql數(shù)據(jù)庫,請問labview打包成exe安裝檔,怎么把mysql數(shù)據(jù)庫打包進來,是mysql
    發(fā)表于 05-19 16:17

    mysql數(shù)據(jù)庫同步原理

    數(shù)據(jù)庫的訪問壓力,提升整個系統(tǒng)的性能和可用性,降低了大訪問量引發(fā)數(shù)據(jù)庫宕機的故障率。 binlog簡介 MySQL主從同步是基于binlo
    發(fā)表于 09-28 11:49 ?0次下載
    <b class='flag-5'>mysql</b><b class='flag-5'>數(shù)據(jù)庫</b><b class='flag-5'>同步</b>原理

    Mysql主從同步的實現(xiàn)原理

    MySQL是一個關(guān)系型數(shù)據(jù)庫管理系統(tǒng),由瑞典MySQL AB 公司開發(fā),目前屬于 Oracle 旗下產(chǎn)品。MySQL 是最流行的關(guān)系型數(shù)據(jù)庫
    發(fā)表于 12-26 15:56 ?3010次閱讀
    <b class='flag-5'>Mysql</b><b class='flag-5'>主從</b><b class='flag-5'>同步</b>的實現(xiàn)原理

    簡單介紹MySQL延遲主從復(fù)制

    MySQL 5.6 已經(jīng)支持延遲復(fù)制, 可設(shè)置備節(jié)點的延遲時間, 延遲復(fù)制是有意義的,例如防止主節(jié)點數(shù)據(jù)誤刪,查看
    的頭像 發(fā)表于 02-09 09:05 ?4121次閱讀

    MySQL數(shù)據(jù)庫如何安裝和使用說明

    MySQL數(shù)據(jù)庫開發(fā) 基礎(chǔ)概念 1.數(shù)據(jù):描述事物特征的符號,屬性 2.數(shù)據(jù)庫的概念:管理計算機中的數(shù)據(jù)的倉庫 2.
    的頭像 發(fā)表于 02-13 16:13 ?2884次閱讀

    華為云數(shù)據(jù)庫-RDS for MySQL數(shù)據(jù)庫

    華為云數(shù)據(jù)庫-RDS for MySQL數(shù)據(jù)庫 華為云數(shù)據(jù)庫作為華為云的一款數(shù)據(jù)庫產(chǎn)品,它主要是以MyS
    的頭像 發(fā)表于 10-27 11:06 ?1634次閱讀

    MySQL數(shù)據(jù)庫管理與應(yīng)用

    MySQL數(shù)據(jù)庫管理與應(yīng)用 MySQL是一種廣泛使用的關(guān)系型數(shù)據(jù)庫管理系統(tǒng),被認為是最流行和最常見的開源數(shù)據(jù)庫之一。它可以被用于多種不同的應(yīng)
    的頭像 發(fā)表于 08-28 17:15 ?1082次閱讀

    mysql主從復(fù)制三種模式

    MySQL主從復(fù)制是一種常見的數(shù)據(jù)同步方式,它可以實現(xiàn)將一個數(shù)據(jù)庫的更改同步到其他多個
    的頭像 發(fā)表于 11-16 14:04 ?1684次閱讀

    mysql主從復(fù)制的原理

    MySQL主從復(fù)制是一種數(shù)據(jù)庫復(fù)制技術(shù),它允許將一個MySQL數(shù)據(jù)庫的更新操作自動復(fù)制到其他MySQL
    的頭像 發(fā)表于 11-16 14:18 ?585次閱讀

    mysql是一個什么類型的數(shù)據(jù)庫

    MySQL是一種關(guān)系型數(shù)據(jù)庫管理系統(tǒng)(RDBMS),用于存儲和管理大量結(jié)構(gòu)化數(shù)據(jù)。它被廣泛用于各種應(yīng)用程序和網(wǎng)站的后端,包括電子商務(wù)平臺、社交媒體網(wǎng)站、金融系統(tǒng)等等。MySQL的特點是
    的頭像 發(fā)表于 11-16 14:43 ?1966次閱讀

    MySQL數(shù)據(jù)庫基礎(chǔ)知識

    MySQL 是一種開源的關(guān)系型數(shù)據(jù)庫管理系統(tǒng),它是目前最流行的數(shù)據(jù)庫之一。MySQL 提供了一種結(jié)構(gòu)化的方法來管理大量的數(shù)據(jù),并且具有高效、
    的頭像 發(fā)表于 11-21 11:09 ?1067次閱讀

    mysql數(shù)據(jù)庫基礎(chǔ)命令

    MySQL是一個流行的關(guān)系型數(shù)據(jù)庫管理系統(tǒng),經(jīng)常用于存儲、管理和操作數(shù)據(jù)。在本文中,我們將詳細介紹MySQL的基礎(chǔ)命令,并提供與每個命令相關(guān)的詳細解釋。 登錄
    的頭像 發(fā)表于 12-06 10:56 ?711次閱讀

    數(shù)據(jù)庫數(shù)據(jù)恢復(fù)—Mysql數(shù)據(jù)庫表記錄丟失的數(shù)據(jù)恢復(fù)流程

    Mysql數(shù)據(jù)庫故障: Mysql數(shù)據(jù)庫表記錄丟失。 Mysql數(shù)據(jù)庫故障表現(xiàn): 1、
    的頭像 發(fā)表于 12-16 11:05 ?319次閱讀
    <b class='flag-5'>數(shù)據(jù)庫</b><b class='flag-5'>數(shù)據(jù)</b>恢復(fù)—<b class='flag-5'>Mysql</b><b class='flag-5'>數(shù)據(jù)庫</b>表記錄丟失的<b class='flag-5'>數(shù)據(jù)</b>恢復(fù)流程

    構(gòu)建數(shù)據(jù)庫解決方案,基于華為云 Flexus X 實例容器化 MySQL 主從同步架構(gòu)

    前言**** 華為云 Flexus X 實例,融合柔性算力與智能調(diào)度,為數(shù)據(jù)庫解決方案帶來全新突破。采用容器化 MySQL 主從同步架構(gòu),實現(xiàn)數(shù)據(jù)
    的頭像 發(fā)表于 01-07 17:22 ?271次閱讀
    構(gòu)建<b class='flag-5'>數(shù)據(jù)庫</b>解決方案,基于華為云 Flexus X 實例容器化 <b class='flag-5'>MySQL</b> <b class='flag-5'>主從</b><b class='flag-5'>同步</b>架構(gòu)

    MySQL數(shù)據(jù)庫的安裝

    MySQL數(shù)據(jù)庫的安裝 【一】各種數(shù)據(jù)庫的端口 MySQL :3306 Redis :6379 MongoDB :27017 Django :8000 flask :5000 【二】
    的頭像 發(fā)表于 01-14 11:25 ?232次閱讀
    <b class='flag-5'>MySQL</b><b class='flag-5'>數(shù)據(jù)庫</b>的安裝