0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

系統(tǒng)上線時(shí)SQL腳本的9大坑

jf_78858299 ? 來源:蘇三說技術(shù) ? 作者:蘇三說技術(shù) ? 2023-04-24 17:10 ? 次閱讀

系統(tǒng)上線時(shí),非常容易出問題。

即使之前在測(cè)試環(huán)境,已經(jīng)執(zhí)行過SQL腳本了。但是有時(shí)候,在系統(tǒng)上線時(shí),在生產(chǎn)環(huán)境執(zhí)行相同的SQL腳本,還是有可能出現(xiàn)一些問題。

有些小公司,SQL腳本是開發(fā)自己執(zhí)行的,有很大的風(fēng)險(xiǎn)。

有些大廠,有專業(yè)的DBA把關(guān),但DBA也不是萬能的,還是有可能會(huì)讓一些錯(cuò)誤的SQL腳本被生產(chǎn)環(huán)境執(zhí)行了,比如:update語(yǔ)句的順序不對(duì)。

今天跟大家一起聊聊,系統(tǒng)上線時(shí)SQL腳本的9大坑,以便于大家吸取教訓(xùn),能夠防微杜漸,希望對(duì)你會(huì)有所幫助。

1 漏腳本了

我們上線時(shí)執(zhí)行的SQL腳本,出現(xiàn)次數(shù)最多的問題,應(yīng)該是漏腳本了。

  • 有時(shí)候少加了一個(gè)字段。
  • 有時(shí)候字段的注釋沒有及時(shí)修改。
  • 有時(shí)候有些新表沒創(chuàng)建。
  • 有時(shí)候字段類型忘了修改。

等等。

我們的SQL腳本中漏腳本的情況有很多。

那么,如何解決這個(gè)問題呢?

答:將SQL腳本做成代碼的一部分。在項(xiàng)目的代碼中,創(chuàng)建一個(gè)專門的sql目錄,在該目錄下根據(jù)每個(gè)迭代創(chuàng)建一個(gè)子目錄,比如:mv3.2.1,將SQL腳本存放到mv3.2.1下。

我們?cè)陂_發(fā)環(huán)境任何對(duì)表的相關(guān)操作,比如:增加字段、修改字段類型、修改注釋、增加索引、創(chuàng)建表等等,都需要通過SQL語(yǔ)句操作,然后把該SQL語(yǔ)句,整理到SQL腳本中。

最后提交到公司GitLab上,我們?cè)跍y(cè)試環(huán)境和生產(chǎn)環(huán)境發(fā)版時(shí),去GitLab上找相關(guān)迭代版本的SQL腳本執(zhí)行。

通過該方式基本可以解決漏腳本的問題。

2 腳本語(yǔ)法錯(cuò)誤

有些小伙伴看到這個(gè)標(biāo)題可能有點(diǎn)懵,SQL腳本不是已經(jīng)在測(cè)試環(huán)境執(zhí)行過了嗎?為什么還會(huì)出現(xiàn)語(yǔ)法錯(cuò)誤?

比如說有這樣的場(chǎng)景:原本你的SQL腳本沒問題的,但沒有按照規(guī)范,給一張表的添加多個(gè)字段,你寫了多條ALTER語(yǔ)句。

例如:

alter table t_user add column  `work` varchar(30) DEFAULT NULL COMMENT '工作';
alter table t_user add column  `provice` varchar(10) DEFAULT NULL  COMMENT '籍貫';

在上線時(shí),你給DBA提SQL工單時(shí),該工單被DBA審核拒絕打回來了。

然后為了趕時(shí)間,你急急忙忙把多條ALTER語(yǔ)句改成一條ALTER語(yǔ)句。

例如:

alter table t_user add `work` varchar(30) DEFAULT NULL COMMENT '工作',
add `provice` varchar(10) DEFAULT NULL  COMMENT '籍貫';

但在修改的過程中,有地方少了一個(gè)逗號(hào),就可能會(huì)出現(xiàn)SQL語(yǔ)法錯(cuò)誤。

因此,不管是什么SQL語(yǔ)句,要養(yǎng)成好習(xí)慣,只要修改了一定要記得到開發(fā)環(huán)境的數(shù)據(jù)庫(kù)中,先執(zhí)行測(cè)試一下,切勿直接提到生產(chǎn)環(huán)境,即使你有很大的把握,也需要再更慎重一些。

這樣基本可以避免SQL語(yǔ)法錯(cuò)誤的問題。

3 腳本順序不對(duì)

有些時(shí)候,我們?cè)谏暇€系統(tǒng)時(shí),DBA在執(zhí)行SQL腳本的時(shí)候,沒有報(bào)錯(cuò),但最后的數(shù)據(jù)就是不對(duì)。

有可能是腳本順序不對(duì)導(dǎo)致的。

比如有這樣一種場(chǎng)景:你往某張表通過insert初始化了一條數(shù)據(jù)。

例如:

INSERT INTO `sue`.`t_user`(`id`, `code`, `age`, `name`, `height`, `address`, `work`, `provice`) VALUES (1, '101', 21, '周星馳', 173, '香港', NULL, NULL);

另外一個(gè)人要基于你這條數(shù)據(jù),通過update修改數(shù)據(jù)。

例如:

update t_user set age=25 where id=1;

你們提了兩條SQL腳本。

另外一個(gè)人先提的,你后提的。

DBA先把他的SQL工單審核通過了,先update數(shù)據(jù),此時(shí)通過id是沒法找到那條數(shù)據(jù)的,影響行數(shù)為0。

然后DBA再審核你的SQL工單,審核通過了,插入了一條數(shù)據(jù)。

由于SQL腳本的順序不對(duì),導(dǎo)致最終系統(tǒng)上線時(shí)的數(shù)據(jù)不對(duì)。

那么這個(gè)問題要如何解決呢?

雙方要事先溝通好,把另外一個(gè)同事的SQL腳本加到你的初始化腳本中,你的腳本在初始化時(shí),直接去修改數(shù)據(jù)即可。

例如:

INSERT INTO `sue`.`t_user`(`id`, `code`, `age`, `name`, `height`, `address`, `work`, `provice`) VALUES (1, '101', 25, '周星馳', 173, '香港', NULL, NULL);

這樣可以避免執(zhí)行順序問題。

4 執(zhí)行時(shí)機(jī)不對(duì)

有些系統(tǒng)功能已經(jīng)上線了,在后面的迭代中,為了盡量避免少影響線上功能,可以增加一個(gè)pre(即預(yù)生產(chǎn)環(huán)境)。

該環(huán)境跟生產(chǎn)環(huán)境是差不多的,連接了相同的數(shù)據(jù)庫(kù),使用了相同的apollo配置。

但唯一的區(qū)別是pre環(huán)境沒有實(shí)際的用戶流量,只能公司內(nèi)部人員才能訪問。

一般在迭代版本上線之前,先要把系統(tǒng)功能發(fā)布到pre環(huán)境中,測(cè)試通過之后,才能發(fā)布到prod(即生產(chǎn)環(huán)境)。

但有些SQL腳本,卻沒法再pre環(huán)境中執(zhí)行,不然會(huì)影響生產(chǎn)環(huán)境。

比如:修改了字段類型,int改成varchar了,或者初始化數(shù)據(jù)時(shí),初始化了一條新加的枚舉數(shù)據(jù)。

由于pre環(huán)境是運(yùn)行的最新代碼,但prod環(huán)境還是運(yùn)行的老代碼。

如果在發(fā)布pre環(huán)境時(shí),直接執(zhí)行SQL腳本,可能會(huì)導(dǎo)致prod環(huán)境的功能異常。

因此要搞清楚SQL腳本的執(zhí)行時(shí)機(jī),哪些是要在pre環(huán)境執(zhí)行的,哪些是要在prod環(huán)境執(zhí)行的。

我們?cè)谔酳QL工單時(shí),千萬不要一股腦就提了,一定要區(qū)分時(shí)機(jī)。

在發(fā)pre環(huán)境時(shí),要么不提發(fā)prod環(huán)境的SQL腳本。要么,在工單的名稱上做區(qū)分,比如增加prod_開頭的標(biāo)識(shí)。

這樣可以解決SQL腳本執(zhí)行時(shí)機(jī)的問題。

5 搞錯(cuò)數(shù)據(jù)庫(kù)了

有時(shí)候,我們的數(shù)據(jù)庫(kù)做了分庫(kù)分表,或者增加備份庫(kù)。

在執(zhí)行SQL腳本的時(shí)候,由于我們自己的疏忽,提SQL工單時(shí)選錯(cuò)數(shù)據(jù)庫(kù)了,或者DBA的疏忽,在執(zhí)行SQL工單時(shí)搞錯(cuò)數(shù)據(jù)庫(kù)了,就會(huì)出現(xiàn)問題。

建議我們的SQL腳本增加庫(kù)名,比如:

alter table sue.t_user add `work` varchar(30) DEFAULT NULL COMMENT '工作';

這里增加庫(kù)名:sue。

這樣基本可以避免選錯(cuò)數(shù)據(jù)庫(kù)的問題。

6 腳本耗時(shí)太長(zhǎng)

有時(shí)候,我們的SQL腳本需要批量修改生產(chǎn)環(huán)境的一些數(shù)據(jù),正常情況下一條update語(yǔ)句就能搞定。

例如:

update user set status=0 where status=1;

但由于user表的數(shù)據(jù)量非常大,我們?cè)趫?zhí)行該SQL腳本之前,沒有預(yù)先評(píng)估該SQL腳本的耗時(shí)情況,而選擇直接在生產(chǎn)環(huán)境的數(shù)據(jù)庫(kù)中執(zhí)行。

假如該SQL腳本耗時(shí)非常長(zhǎng),比如要10分鐘才能執(zhí)行完,可能會(huì)導(dǎo)致user表長(zhǎng)期鎖表,影響正常的業(yè)務(wù)功能。

在該SQL腳本執(zhí)行的過程中,極有可能會(huì)出現(xiàn)業(yè)務(wù)功能操作,導(dǎo)致的死鎖問題。

因此,建議這種大批量的數(shù)據(jù)更新操作,要在用戶較少的凌晨,分批多次執(zhí)行。

我們要盡可能少的影響線上用戶的功能。

此外,在生產(chǎn)環(huán)境增加字段,增加索引等操作,也能會(huì)導(dǎo)致長(zhǎng)期鎖表。也要避免在用戶訪問高峰期執(zhí)行相關(guān)的SQL腳本。

7 腳本無法回滾

絕大多數(shù)系統(tǒng)上線是能夠成功的,雖然過程中會(huì)遇到很多問題,但如果能夠及時(shí)解決,也能夠上線成功。

但如果有些問題,沒法再規(guī)定的時(shí)間內(nèi)解決,很有可能會(huì)導(dǎo)致上線失敗。

如果上線失敗,意味著代碼和數(shù)據(jù)庫(kù)的SQL腳本要回滾。

如果只回滾了代碼,不回滾數(shù)據(jù)庫(kù),可能會(huì)導(dǎo)致很多系統(tǒng)異常。

因此,我們?cè)跍?zhǔn)備SQL語(yǔ)句時(shí),要留點(diǎn)心眼,順便想想該SQL語(yǔ)句能否回滾。

對(duì)于update語(yǔ)句可以加上修改時(shí)間:

update t_user set age=25,time=now(3) where id=1;

這樣可以通過該時(shí)間追溯一次SQL操作修改的數(shù)據(jù),方便后面做回滾。

有些時(shí)候我們要update的數(shù)據(jù),是要通過多條sql語(yǔ)句查詢出來的,比如:需要使用的id。

為了方便回滾我們可以增加臨時(shí)表,保存這些id,后面就能追溯了。

當(dāng)然有些開源的數(shù)據(jù)庫(kù)管理平臺(tái),比如:Archery,是有自帶SQL審核和回滾的功能。

8 忘了加索引

我們?cè)谠黾恿俗侄沃?,非常容易忽略的一件事是?code>加索引。

特別是當(dāng)前表數(shù)據(jù)量很大,而且增加的字段是另外一張表的id時(shí),這種情況強(qiáng)烈建議增加索引。

如果我們上線系統(tǒng)時(shí),在SQL腳本中,忘了給該字段增加索引。如果該id字段被大批量訪問,全部走的全表掃描,可能會(huì)導(dǎo)致數(shù)據(jù)庫(kù)性能直線下降,出現(xiàn)大量的超時(shí)問題。

所以建議我們?cè)陂_發(fā)的時(shí)候,如果要增加字段的話,要養(yǎng)成良好習(xí)慣,想一想這個(gè)字段需不需要建索引。

如果不確定數(shù)據(jù)量的話,可以先到生產(chǎn)環(huán)境查詢一下真實(shí)的用戶數(shù)據(jù),不然后續(xù)可能會(huì)引起比較大的生產(chǎn)事故。

9 字段改名

對(duì)于生產(chǎn)環(huán)境的表字段,通常情況下,我們不允許修改名稱。

如果你在發(fā)布pre環(huán)境時(shí),通過SQL腳本把某張表的某個(gè)字段名稱修改了,pre環(huán)境代碼使用了新的名稱,系統(tǒng)沒有問題。

但prod環(huán)境還是使用老的名稱,所有使用該名稱的sql語(yǔ)句,在代碼執(zhí)行過程中都會(huì)報(bào)錯(cuò)。

因此,禁止在生產(chǎn)環(huán)境通過SQL腳本修改字段名稱。

當(dāng)然系統(tǒng)上線時(shí)除了SQL腳本的這些坑之外,還有系統(tǒng)發(fā)版失敗,代碼合錯(cuò)分支,mq消息被pre消費(fèi)了,無法回滾等等,還有很多問題。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • SQL
    SQL
    +關(guān)注

    關(guān)注

    1

    文章

    764

    瀏覽量

    44157
  • 腳本
    +關(guān)注

    關(guān)注

    1

    文章

    390

    瀏覽量

    14879
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    Linux從零到精通:最簡(jiǎn)單的Shell腳本入門教程

    通過簡(jiǎn)單的命令和腳本,實(shí)現(xiàn)對(duì)系統(tǒng)的靈活控制和自動(dòng)化管理。 shell腳本前言 shell腳本入門 shell變量基礎(chǔ) shell變量子串 shell數(shù)值運(yùn)算 條件表達(dá)式 流程控制語(yǔ)句
    的頭像 發(fā)表于 12-05 09:56 ?458次閱讀
    Linux從零到精通:最簡(jiǎn)單的Shell<b class='flag-5'>腳本</b>入門教程

    SQL錯(cuò)誤代碼及解決方案

    SQL數(shù)據(jù)庫(kù)開發(fā)和管理中,常見的錯(cuò)誤代碼及其解決方案可以歸納如下: 一、語(yǔ)法錯(cuò)誤(Syntax Errors) 錯(cuò)誤代碼 :無特定代碼,但通常會(huì)在錯(cuò)誤消息中明確指出是語(yǔ)法錯(cuò)誤。 原因 :SQL語(yǔ)句
    的頭像 發(fā)表于 11-19 10:21 ?1838次閱讀

    常用SQL函數(shù)及其用法

    SQL(Structured Query Language)是一種用于管理和操作關(guān)系數(shù)據(jù)庫(kù)的編程語(yǔ)言。SQL 提供了豐富的函數(shù)庫(kù),用于數(shù)據(jù)檢索、數(shù)據(jù)更新、數(shù)據(jù)刪除以及數(shù)據(jù)聚合等操作。以下是一些常用
    的頭像 發(fā)表于 11-19 10:18 ?291次閱讀

    SQL與NoSQL的區(qū)別

    在信息技術(shù)領(lǐng)域,數(shù)據(jù)庫(kù)是存儲(chǔ)和管理數(shù)據(jù)的核心組件。隨著互聯(lián)網(wǎng)的發(fā)展和大數(shù)據(jù)時(shí)代的到來,對(duì)數(shù)據(jù)庫(kù)的需求也在不斷變化。SQL和NoSQL作為兩種主流的數(shù)據(jù)庫(kù)管理系統(tǒng),各自有著獨(dú)特的優(yōu)勢(shì)和應(yīng)用場(chǎng)
    的頭像 發(fā)表于 11-19 10:15 ?177次閱讀

    大數(shù)據(jù)從業(yè)者必知必會(huì)的Hive SQL調(diào)優(yōu)技巧

    大數(shù)據(jù)從業(yè)者必知必會(huì)的Hive SQL調(diào)優(yōu)技巧 摘要 :在大數(shù)據(jù)領(lǐng)域中,Hive SQL被廣泛應(yīng)用于數(shù)據(jù)倉(cāng)庫(kù)的數(shù)據(jù)查詢和分析。然而,由于數(shù)據(jù)量龐大和復(fù)雜的查詢需求,Hive SQL查詢的性能往往
    的頭像 發(fā)表于 09-24 13:30 ?274次閱讀

    數(shù)據(jù)庫(kù)數(shù)據(jù)恢復(fù)—SQL Server數(shù)據(jù)庫(kù)出現(xiàn)823錯(cuò)誤的數(shù)據(jù)恢復(fù)案例

    SQL Server數(shù)據(jù)庫(kù)故障: SQL Server附加數(shù)據(jù)庫(kù)出現(xiàn)錯(cuò)誤823,附加數(shù)據(jù)庫(kù)失敗。數(shù)據(jù)庫(kù)沒有備份,無法通過備份恢復(fù)數(shù)據(jù)庫(kù)。 SQL Server數(shù)據(jù)庫(kù)出現(xiàn)823錯(cuò)誤的可能原因有:數(shù)據(jù)庫(kù)物理頁(yè)面損壞、數(shù)據(jù)庫(kù)物理頁(yè)
    的頭像 發(fā)表于 09-20 11:46 ?358次閱讀
    數(shù)據(jù)庫(kù)數(shù)據(jù)恢復(fù)—<b class='flag-5'>SQL</b> Server數(shù)據(jù)庫(kù)出現(xiàn)823錯(cuò)誤的數(shù)據(jù)恢復(fù)案例

    shell腳本執(zhí)行的三種方式及區(qū)別

    在Linux系統(tǒng)中,Shell腳本是一種非常實(shí)用的工具,用于自動(dòng)化執(zhí)行一系列命令。Shell腳本可以大大提高工作效率,簡(jiǎn)化復(fù)雜的任務(wù)。在這篇文章中,我們將介紹Shell腳本執(zhí)行的三種方
    的頭像 發(fā)表于 08-30 15:24 ?1172次閱讀

    執(zhí)行shell腳本的方式包括什么

    執(zhí)行Shell腳本的方式有很多種,以下是一些常見的方法: 直接運(yùn)行腳本文件 在命令行中,可以直接使用腳本文件的路徑來運(yùn)行腳本。例如: ./script. sh 這種方式需要確保
    的頭像 發(fā)表于 08-30 15:17 ?344次閱讀

    IP 地址在 SQL 注入攻擊中的作用及防范策略

    數(shù)據(jù)庫(kù)在各個(gè)領(lǐng)域的逐步應(yīng)用,其安全性也備受關(guān)注。SQL 注入攻擊作為一種常見的數(shù)據(jù)庫(kù)攻擊手段,給網(wǎng)絡(luò)安全帶來了巨大威脅。今天我們來聊一聊SQL 注入攻擊的基本知識(shí)。 SQL 注入攻擊的基本原理
    的頭像 發(fā)表于 08-05 17:36 ?320次閱讀

    恒訊科技分析:sql數(shù)據(jù)庫(kù)怎么用?

    SQL數(shù)據(jù)庫(kù)的使用通常包括以下幾個(gè)基本步驟: 1、選擇數(shù)據(jù)庫(kù)系統(tǒng): 選擇適合您需求的SQL數(shù)據(jù)庫(kù)系統(tǒng),如MySQL、PostgreSQL、Microsoft
    的頭像 發(fā)表于 07-15 14:40 ?363次閱讀

    什么是 Flink SQL 解決不了的問題?

    簡(jiǎn)介 在實(shí)時(shí)數(shù)據(jù)開發(fā)過程中,大家經(jīng)常會(huì)用 Flink SQL 或者 Flink DataStream API 來做數(shù)據(jù)加工。通常情況下選用2者都能加工出想要的數(shù)據(jù),但是總會(huì)有 Flink SQL
    的頭像 發(fā)表于 07-09 20:50 ?326次閱讀

    SQL全外連接剖析

    SQL中的全外連接是什么? 在SQL中,F(xiàn)ULLOUTERJOIN組合左外連接和右外連接的結(jié)果,并返回連接子句兩側(cè)表中的所有(匹配或不匹配)行。接下面sojson給大家詳細(xì)講解。 ? 圖解:SQL
    的頭像 發(fā)表于 03-19 18:28 ?2245次閱讀
    <b class='flag-5'>SQL</b>全外連接剖析

    如何開始監(jiān)控SQL Server環(huán)境?

    理想情況下,最好、最有效的做法是使用可靠的監(jiān)控解決方案。然后您就可以將所有內(nèi)容集中在一處并獲得大量見解。否則,您可以登錄每個(gè)系統(tǒng)并手動(dòng)檢查,但這為您提供的數(shù)據(jù)較少,沒有關(guān)聯(lián)等。 雖然您可以手動(dòng)監(jiān)控
    的頭像 發(fā)表于 02-28 17:25 ?406次閱讀

    為什么需要監(jiān)控SQL服務(wù)器?

    如今,大多數(shù)桌面、移動(dòng)、云、物聯(lián)網(wǎng)和其他應(yīng)用程序都嚴(yán)重依賴數(shù)據(jù)庫(kù)。為了支持這些,SQL Server部署、容量和工作負(fù)載不斷增長(zhǎng)。當(dāng)這種情況發(fā)生時(shí),企業(yè)需要確保數(shù)據(jù)系統(tǒng)滿足所需的性能要求。 SQL
    的頭像 發(fā)表于 02-19 17:19 ?481次閱讀

    如何用Rust過程宏魔法簡(jiǎn)化SQL函數(shù)呢?

    這是 RisingWave 中一個(gè) SQL 函數(shù)的實(shí)現(xiàn)。只需短短幾行代碼,通過在 Rust 函數(shù)上加一行過程宏,我們就把它包裝成了一個(gè) SQL 函數(shù)。
    的頭像 發(fā)表于 01-23 09:43 ?966次閱讀
    如何用Rust過程宏魔法簡(jiǎn)化<b class='flag-5'>SQL</b>函數(shù)呢?