0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

接口優(yōu)化的常見方案實(shí)戰(zhàn)總結(jié)

OSC開源社區(qū) ? 來源:OSCHINA 社區(qū) ? 2023-03-06 09:22 ? 次閱讀

作者 | 京東云開發(fā)者

一、背景

針對老項(xiàng)目,去年做了許多降本增效的事情,其中發(fā)現(xiàn)最多的就是接口耗時過長的問題,就集中搞了一次接口性能優(yōu)化。本文將給小伙伴們分享一下接口優(yōu)化的通用方案。

743a85c0-bb79-11ed-bfe3-dac502259ad0.png

二、接口優(yōu)化方案總結(jié)

1. 批處理

批量思想:批量操作數(shù)據(jù)庫,這個很好理解,我們在循環(huán)插入場景的接口中,可以在批處理執(zhí)行完成后一次性插入或更新數(shù)據(jù)庫,避免多次 IO。

//for循環(huán)單筆入庫
list.stream().forEatch(msg->{
    insert();
});
//批量入庫
batchInsert();

2. 異步處理

異步思想:針對耗時比較長且不是結(jié)果必須的邏輯,我們可以考慮放到異步執(zhí)行,這樣能降低接口耗時。

例如一個理財(cái)?shù)纳曩徑涌?,入賬和寫入申購文件是同步執(zhí)行的,因?yàn)槭?T+1 交易,后面這兩個邏輯其實(shí)不是結(jié)果必須的,我們并不需要關(guān)注它的實(shí)時結(jié)果,所以我們考慮把入賬和寫入申購文件改為異步處理。如圖所示:

74502362-bb79-11ed-bfe3-dac502259ad0.png

至于異步的實(shí)現(xiàn)方式,可以用線程池,也可以用消息隊(duì)列,還可以用一些調(diào)度任務(wù)框架。

3. 空間換時間

一個很好理解的空間換時間的例子是合理使用緩存,針對一些頻繁使用且不頻繁變更的數(shù)據(jù),可以提前緩存起來,需要時直接查緩存,避免頻繁地查詢數(shù)據(jù)庫或者重復(fù)計(jì)算。

需要注意的事,這里用了合理二字,因?yàn)榭臻g換時間也是一把雙刃劍,需要綜合考慮你的使用場景,畢竟緩存帶來的數(shù)據(jù)一致性問題也挺令人頭疼。

這里的緩存可以是 R2M,也可以是本地緩存、memcached,或者M(jìn)ap。

舉一個股票工具的查詢例子:

因?yàn)椴呗暂唲拥恼{(diào)倉信息,每周只更新一次,所以原來的調(diào)接口就去查庫的邏輯并不合理,而且拿到調(diào)倉信息后,需要經(jīng)過復(fù)雜計(jì)算,最終得出回測收益和跑贏滬深指數(shù)這些我們想要的結(jié)果。如果我們把查庫操作和計(jì)算結(jié)果放入緩存,可以節(jié)省很多的執(zhí)行時間。如圖:

7460285c-bb79-11ed-bfe3-dac502259ad0.png

4. 預(yù)處理

也就是預(yù)取思想,就是提前要把查詢的數(shù)據(jù),提前計(jì)算好,放入緩存或者表中的某個字段,用的時候會大幅提高接口性能。跟上面那個例子很像,但是關(guān)注點(diǎn)不同。

舉個簡單的例子:理財(cái)產(chǎn)品,會有根據(jù)凈值計(jì)算年化收益率的數(shù)據(jù)展示需求,利用凈值去套用年化收益率計(jì)算公式計(jì)算的邏輯我們可以采用預(yù)處理,這樣每一次接口調(diào)用直接取對應(yīng)字段就可以了。

5. 池化思想

我們都用過數(shù)據(jù)庫連接池,線程池等,這就是池思想的體現(xiàn),它們解決的問題就是避免重復(fù)創(chuàng)建對象或創(chuàng)建連接,可以重復(fù)利用,避免不必要的損耗,畢竟創(chuàng)建銷毀也會占用時間。

池化思想包含但并不局限于以上兩種,總的來說池化思想的本質(zhì)是預(yù)分配與循環(huán)使用,明白這個原理后,我們即使是在做一些業(yè)務(wù)場景的需求時,也可以利用起來。

比如:對象池

6. 串行改并行

串行就是,當(dāng)前執(zhí)行邏輯必須等上一個執(zhí)行邏輯結(jié)束之后才執(zhí)行,并行就是兩個執(zhí)行邏輯互不干擾,所以并行相對來說就比較節(jié)省時間,當(dāng)然是建立在沒有結(jié)果參數(shù)依賴的前提下。

比如,理財(cái)?shù)某謧}信息展示接口,我們既需要查詢用戶的賬戶信息,也需要查詢商品信息和 banner 位信息等等來渲染持倉頁,如果是串行,基本上接口耗時就是累加的。如果是并行,接口耗時將大大降低。

如圖:

746e9572-bb79-11ed-bfe3-dac502259ad0.png

7. 索引

加索引能大大提高數(shù)據(jù)查詢效率,這個在接口設(shè)計(jì)之出也會考慮到,這里不再多贅述,隨著需求的迭代,我們重點(diǎn)整理一下索引不生效的一些場景,希望對小伙伴們有所幫助。

具體不生效場景不再一一舉例,后面有時間的話,單獨(dú)整理一下。

7480839a-bb79-11ed-bfe3-dac502259ad0.png

8. 避免大事務(wù)

所謂大事務(wù)問題,就是運(yùn)行時間較長的事務(wù),由于事務(wù)一致不提交,會導(dǎo)致數(shù)據(jù)庫連接被占用,影響到別的請求訪問數(shù)據(jù)庫,影響別的接口性能。

舉個例子:

@Transactional(value ="taskTransactionManager", propagation =Propagation.REQUIRED, isolation =Isolation.READ_COMMITTED, rollbackFor ={RuntimeException.class,Exception.class})
    publicBasicResultpurchaseRequest(PurchaseRecordrecord){
        BasicResult result =newBasicResult();
        //插入賬戶任務(wù)
        taskMapper.insert(ManagerParamUtil.buildTask(record,TaskEnum.Task_type.pension_account.type(),TaskEnum.Account_bizType.purchase_request.type()));
        //插入同步任務(wù)
        taskMapper.insert(ManagerParamUtil.buildTask(record,TaskEnum.Task_type.pension_sync.type(),TaskEnum.Sync_bizType.purchase.type()));
        //插入影像件上傳任務(wù)
        taskMapper.insert(ManagerParamUtil.buildTask(record,TaskEnum.Task_type.pension_sync.type(),TaskEnum.Sync_bizType.cert.type()));
        result.setInfo(ResultInfoEnum.SUCCESS);
        return result;
    }
上面這塊代碼主要是申購申請完成后,執(zhí)行一系列的后續(xù)操作,如果現(xiàn)在新增申購?fù)瓿珊?,發(fā)送 push 通知用戶的需求。很有可能我們會在后面直接追加,如下圖所示:事務(wù)中嵌套 RPC 調(diào)用,即非 DB 操作,這些非 DB 操作如果耗時較大的話,可能會出現(xiàn)大事務(wù)問題。大數(shù)據(jù)引發(fā)的問題主要有:死鎖、接口超時、主從延遲等。
@Transactional(value ="taskTransactionManager", propagation =Propagation.REQUIRED, isolation =Isolation.READ_COMMITTED, rollbackFor ={RuntimeException.class,Exception.class})
    publicBasicResultpurchaseRequest(PurchaseRecordrecord){
        BasicResult result =newBasicResult();
        ...
        pushRpc.doPush(record);        
        result.setInfo(ResultInfoEnum.SUCCESS);
        return result;
    }
所以為避免大事務(wù)問題,我們可以通過以下方案規(guī)避: 1,RPC 調(diào)用不放到事務(wù)里面 2,查詢操作盡量放到事務(wù)之外 3,事務(wù)中避免處理太多數(shù)據(jù)

9. 優(yōu)化程序結(jié)構(gòu)

程序結(jié)構(gòu)問題一般出現(xiàn)在多次需求迭代后,代碼疊加形成。會造成一些重復(fù)查詢、多次創(chuàng)建對象等耗時問題。在多人維護(hù)一個項(xiàng)目時比較多見。解決起來也比較簡單,我們需要針對接口整體做重構(gòu),評估每個代碼塊的作用和用途,調(diào)整執(zhí)行順序。

10. 深分頁問題

深分頁問題比較常見,分頁我們一般最先想到的就是 limit ,為什么會慢,我們可以看下這個 SQL:

select*from purchase_record where productCode ='PA9044'andstatus=4orderby orderTime desclimit100000,200
limit 100000,200 意味著會掃描 100200 行,然后返回 200 行,丟棄掉前 100000 行。所以執(zhí)行速度很慢。一般可以采用標(biāo)簽記錄法來優(yōu)化,比如:
select*from purchase_record where productCode ='PA9044'andstatus=4and id >100000limit200
這樣優(yōu)化的好處是命中了主鍵索引,無論多少頁,性能都還不錯,但是局限性是需要一個連續(xù)自增的字段

11.SQL 優(yōu)化

sql 優(yōu)化能大幅提高接口的查詢性能,由于本文重點(diǎn)講述接口優(yōu)化的方案,具體 sql 優(yōu)化不再一一列舉,小伙伴們可以結(jié)合索引、分頁、等關(guān)注點(diǎn)考慮優(yōu)化方案。

12. 鎖粒度避免過粗

鎖一般是為了在高并發(fā)場景下保護(hù)共享資源采用的一種手段,但是如果鎖的粒度太粗,會很影響接口性能。 關(guān)于鎖粒度:就是你要鎖的范圍有多大,不管是 synchronized 還是 redis 分布式鎖,只需要在臨界資源處加鎖即可,不涉及共享資源的,不必要加鎖,就好比你要上衛(wèi)生間,只需要把衛(wèi)生間的門鎖上就可以,不需要把客廳的門也鎖上。 錯誤的加鎖方式:

//非共享資源
        privatevoidnotShare(){
        }
        //共享資源
        privatevoidshare(){
        }
        privateintwrong(){
            synchronized(this){
                share();
                notShare();
            }
        }

正確的加鎖方式:

//非共享資源
        privatevoidnotShare(){
        }
        //共享資源
        privatevoidshare(){
        }
        privateintright(){
            notShare();
            synchronized(this){
                share();

            }
        }

三、最后

接口性能問題形成的原因思考

我相信很多接口的效率問題不是一朝一夕形成的,在需求迭代的過程中,為了需求快速上線,采取直接累加代碼的方式去實(shí)現(xiàn)功能,這樣會造成以上這些接口性能問題。 變換思路,更高一級思考問題,站在接口設(shè)計(jì)者的角度去開發(fā)需求,會避免很多這樣的問題,也是降本增效的一種行之有效的方式。 以上,共勉!

審核編輯:湯梓紅
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 接口
    +關(guān)注

    關(guān)注

    33

    文章

    8598

    瀏覽量

    151157
  • 文件
    +關(guān)注

    關(guān)注

    1

    文章

    566

    瀏覽量

    24744
  • 優(yōu)化
    +關(guān)注

    關(guān)注

    0

    文章

    220

    瀏覽量

    23906
  • 代碼
    +關(guān)注

    關(guān)注

    30

    文章

    4788

    瀏覽量

    68612

原文標(biāo)題:接口優(yōu)化的常見方案實(shí)戰(zhàn)總結(jié)

文章出處:【微信號:OSC開源社區(qū),微信公眾號:OSC開源社區(qū)】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    PCBA測試的常見方

    以看出整個工藝流程存在的問題,比如前期工序SMT、DIP等,存在問題,就進(jìn)行調(diào)整,讓整個工藝更加完善。PCBA測試常見方法,主要有以下幾種: 1.手工測試手工測試就是直接依靠視覺進(jìn)行測試,通過視覺與比較來
    發(fā)表于 11-08 17:19

    前端性能怎么優(yōu)化

    前端性能優(yōu)化常見方
    發(fā)表于 03-27 11:42

    光耦隔離的4種常見方法對比

    光耦隔離的4種常見方法對比
    發(fā)表于 05-31 11:06 ?13.2w次閱讀
    光耦隔離的4種<b class='flag-5'>常見方</b>法對比

    運(yùn)放使用常見問題總結(jié)

    實(shí)戰(zhàn)電子的經(jīng)驗(yàn)總結(jié)。實(shí)用的運(yùn)放問題答疑。適合初學(xué)者和進(jìn)一步提高的友友。
    發(fā)表于 07-29 18:31 ?0次下載

    嵌入式接口保護(hù)設(shè)計(jì)方案

    接口是嵌入式設(shè)備中最常見的組成部分,是數(shù)據(jù)傳輸?shù)耐ǖ溃鹬鴶?shù)據(jù)傳輸與隔離保護(hù)電路的作用,今天我們一起探討接口保護(hù)設(shè)計(jì)一種常見方案。
    發(fā)表于 10-13 11:24 ?853次閱讀

    DSP程序優(yōu)化總結(jié)

    DSP程序優(yōu)化總結(jié)
    發(fā)表于 10-23 14:24 ?2次下載
    DSP程序<b class='flag-5'>優(yōu)化</b><b class='flag-5'>總結(jié)</b>

    檢測LED單元板的常見方

    LED電子顯示屏很重要的組成部分就有LED單元板,如果單元板有問題,會直接影響LED顯示屏的整體質(zhì)量!所以,如何辨別LED單元板的好壞是LED顯示屏商家關(guān)心的問題,下面整理了一些檢測LED單元板的常見方法。
    發(fā)表于 05-04 17:31 ?3822次閱讀

    電平轉(zhuǎn)換常見方法的匯總比較資料下載

    電子發(fā)燒友網(wǎng)為你提供電平轉(zhuǎn)換常見方法的匯總比較資料下載的電子資料下載,更有其他相關(guān)的電路圖、源代碼、課件教程、中文資料、英文資料、參考設(shè)計(jì)、用戶指南、解決方案等資料,希望可以幫助到廣大的電子工程師們。
    發(fā)表于 04-09 08:44 ?9次下載
    電平轉(zhuǎn)換<b class='flag-5'>常見方</b>法的匯總比較資料下載

    HarmonyOS測試技術(shù)與實(shí)戰(zhàn)-HarmonyOS自研圖形棧總結(jié)

    HDC 2021華為開發(fā)者大會 HarmonyOS測試技術(shù)與實(shí)戰(zhàn)-HarmonyOS自研圖形棧總結(jié)
    的頭像 發(fā)表于 10-23 15:47 ?1619次閱讀
    HarmonyOS測試技術(shù)與<b class='flag-5'>實(shí)戰(zhàn)</b>-HarmonyOS自研圖形棧<b class='flag-5'>總結(jié)</b>

    18種接口優(yōu)化方案匯總1

    之前工作中,遇到一個`504`超時問題。原因是因?yàn)?b class='flag-5'>接口耗時過長,超過`nginx`配置的`10`秒。然后 真槍實(shí)彈搞了一次接口性能優(yōu)化,最后接口從`11.3s`降為`170ms`。本文
    的頭像 發(fā)表于 02-15 15:59 ?855次閱讀
    18種<b class='flag-5'>接口</b><b class='flag-5'>優(yōu)化</b><b class='flag-5'>方案</b>匯總1

    18種接口優(yōu)化方案匯總2

    之前工作中,遇到一個`504`超時問題。原因是因?yàn)?b class='flag-5'>接口耗時過長,超過`nginx`配置的`10`秒。然后 真槍實(shí)彈搞了一次接口性能優(yōu)化,最后接口從`11.3s`降為`170ms`。本文
    的頭像 發(fā)表于 02-15 15:59 ?671次閱讀
    18種<b class='flag-5'>接口</b><b class='flag-5'>優(yōu)化</b><b class='flag-5'>方案</b>匯總2

    箱式變壓器保養(yǎng)的常見方法和事項(xiàng)

      箱式變壓器是工業(yè)、礦山、建筑等各個領(lǐng)域中常見的基礎(chǔ)設(shè)施,作為電力系統(tǒng)中不可缺少的設(shè)備之一,需要定期進(jìn)行保養(yǎng)與維護(hù),以確保其正常、安全、穩(wěn)定地運(yùn)行。以下是箱式變壓器保養(yǎng)的常見方法:
    發(fā)表于 04-19 14:45 ?2906次閱讀

    MCU批量生產(chǎn)下載程序的幾種常見方

    MCU批量生產(chǎn)下載程序的幾種常見方
    的頭像 發(fā)表于 10-24 17:22 ?1629次閱讀
    MCU批量生產(chǎn)下載程序的幾種<b class='flag-5'>常見方</b>法

    無功補(bǔ)償?shù)脑?、作用?b class='flag-5'>常見方式

    無功補(bǔ)償?shù)脑怼⒆饔眉?b class='flag-5'>常見方式? 無功補(bǔ)償是電力系統(tǒng)中的一項(xiàng)重要技術(shù)措施,用于改善電力質(zhì)量和提高能源利用效率。本文將詳細(xì)介紹無功補(bǔ)償?shù)脑?、作用以?b class='flag-5'>常見的補(bǔ)償方式。 一、無功補(bǔ)償?shù)脑?無功功率
    的頭像 發(fā)表于 01-19 14:19 ?9123次閱讀

    性能優(yōu)化之路總結(jié)

    針對老項(xiàng)目,去年做了許多降本增效的事情,其中發(fā)現(xiàn)最多的就是接口耗時過長的問題,就集中搞了一次接口性能優(yōu)化。本文將給小伙伴們分享一下接口優(yōu)化
    的頭像 發(fā)表于 06-17 15:00 ?342次閱讀