0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

廣告業(yè)務(wù)存儲(chǔ)神器:華為云GaussDB(for Redis)

禿頭也愛(ài)科技 ? 來(lái)源:禿頭也愛(ài)科技 ? 作者:禿頭也愛(ài)科技 ? 2022-11-25 09:04 ? 次閱讀

摘要:高性能、大容量、低成本、強(qiáng)穩(wěn)定性,廣告業(yè)務(wù)需要的Ta都有

一、從需求場(chǎng)景說(shuō)起,什么是RTA廣告業(yè)務(wù)?

在互聯(lián)網(wǎng)時(shí)代,媒體平臺(tái)逐漸成為廣告業(yè)務(wù)的主體,而作為廣告主的企業(yè)往往每年需花費(fèi)數(shù)億甚至數(shù)十億廣告費(fèi),卻依然難以準(zhǔn)確觸達(dá)目標(biāo)用戶,這就造成大量資金浪費(fèi)。在這樣的需求場(chǎng)景下,RTA廣告業(yè)務(wù)模式逐漸流行起來(lái)。

RTA 即Realtime API的簡(jiǎn)稱,是一套接口服務(wù),用于滿足廣告主實(shí)時(shí)個(gè)性化的投放需求,在競(jìng)價(jià)中減少資金浪費(fèi)。簡(jiǎn)單來(lái)說(shuō),RTA大體流程如下:

  1. 媒體在將廣告曝光給用戶前,先通過(guò)RTA接口詢問(wèn)廣告主是否參與本次競(jìng)價(jià);
  2. 廣告主結(jié)合自己的__畫(huà)像數(shù)據(jù)(一般是百GB~數(shù)TB的key-value數(shù)據(jù))__進(jìn)行決策,快速響應(yīng)媒體側(cè),表明是否要參與本次曝光競(jìng)價(jià),以及具體的曝光策略;
  3. 媒體平臺(tái)根據(jù)價(jià)高者得原則,進(jìn)行精準(zhǔn)目標(biāo)廣告投放。

16692969122231dyzwpnsd7

RTA廣告業(yè)務(wù)流程圖

RTA讓廣告投放變得更精準(zhǔn),更省錢(qián),還可以滿足許多不同的投放需求,例如獲取新用戶、召回流失用戶等。

二、聊聊RTA中的數(shù)據(jù)存儲(chǔ)選型

對(duì)廣告主來(lái)說(shuō),RTA業(yè)務(wù)價(jià)值明顯,但媒體側(cè)可是設(shè)置了不小的技術(shù)門(mén)檻,一般要求RTA系統(tǒng)高峰承載20w+ QPS,50到100ms快速響應(yīng)。當(dāng)不達(dá)標(biāo)時(shí),媒體側(cè)會(huì)有降級(jí)和清退機(jī)制,例如暫時(shí)關(guān)閉廣告主的RTA接入通道。

因此,RTA業(yè)務(wù)的首要需求是使用靠譜的畫(huà)像數(shù)據(jù)庫(kù):

  1. 毫秒級(jí)響應(yīng),支持?jǐn)?shù)十萬(wàn)級(jí)QPS
  2. 穩(wěn)定性高,關(guān)鍵時(shí)刻不能掉鏈子
  3. 支持百GB~數(shù)TB的畫(huà)像存儲(chǔ),且成本可控

根據(jù)經(jīng)驗(yàn),很多公司會(huì)使用開(kāi)源Redis集群來(lái)做這件事,但其實(shí)__開(kāi)源Redis并不太適合這類(lèi)大數(shù)據(jù)場(chǎng)景:__

一方面,雖然開(kāi)源Redis并發(fā)性能和響應(yīng)都很優(yōu)秀,但終究只是緩存,無(wú)法提供數(shù)據(jù)庫(kù)級(jí)的穩(wěn)定性保障,丟數(shù)據(jù)、fork抖動(dòng)、分片不均OOM、擴(kuò)容耗時(shí)久等等,都是很常見(jiàn)的問(wèn)題。

另一方面,由于開(kāi)源Redis中存放的數(shù)據(jù)無(wú)法突破內(nèi)存限制,上百GB的數(shù)據(jù)存儲(chǔ)價(jià)格非常昂貴,例如512GB規(guī)格的開(kāi)源Redis接近5w/月。

在這類(lèi)大數(shù)據(jù)業(yè)務(wù)場(chǎng)景下,我們推薦使用華為云數(shù)據(jù)庫(kù)GaussDB(for Redis)做畫(huà)像數(shù)據(jù)存儲(chǔ)。

三、大數(shù)據(jù)業(yè)務(wù)存儲(chǔ)神器:華為云數(shù)據(jù)庫(kù)GaussDB(for Redis)

GaussDB(for Redis)是華為云企業(yè)級(jí)存算分離Redis數(shù)據(jù)庫(kù),使用上與開(kāi)源Redis別無(wú)二致,并且能夠兼顧緩存與存儲(chǔ)兩類(lèi)典型場(chǎng)景:

  1. 內(nèi)存+分布式存儲(chǔ)池(Nvme SSD),提供毫秒級(jí)響應(yīng)速度,并實(shí)現(xiàn)了大幅降本
  2. 命令兼容度>98%,業(yè)務(wù)零改造平遷
  3. 容量最大支持36TB,高壓縮比,且保障數(shù)據(jù)庫(kù)級(jí)別可靠存儲(chǔ)
  4. 算力用多少買(mǎi)多少,支持水平擴(kuò)展到千萬(wàn)級(jí)QPS
  5. 無(wú)感熱擴(kuò)容,128GB到512GB也只需一秒
  6. 支持多DB租戶訪問(wèn)權(quán)限隔離(增強(qiáng)版ACL)

RTA廣告業(yè)務(wù)對(duì)畫(huà)像存儲(chǔ)的核心需求是:響應(yīng)快、穩(wěn)定性高、大容量且不貴,GaussDB(for Redis)充分滿足這類(lèi)大數(shù)據(jù)業(yè)務(wù)需求。

  • 超低時(shí)延,性能滿足媒體側(cè)要求

根據(jù)現(xiàn)網(wǎng)的案例經(jīng)驗(yàn),在數(shù)十萬(wàn)QPS流量下,GaussDB(for Redis)可穩(wěn)定保持平均時(shí)延1ms,p99時(shí)延2ms。

媒體側(cè)一般對(duì)廣告主端到端響應(yīng)要求在50~100ms,這其中包括了業(yè)務(wù)及網(wǎng)絡(luò)鏈路的耗時(shí),GaussDB(for Redis)可以很好地滿足響應(yīng)要求,并給業(yè)務(wù)鏈路留有充足的余量。

為什么GaussDB(for Redis)在存算分離的架構(gòu)下還能提供低時(shí)延訪問(wèn)?

  1. 自動(dòng)冷熱分離,計(jì)算層的內(nèi)存資源會(huì)被用來(lái)充分加速熱數(shù)據(jù)
  2. 存儲(chǔ)池是基于高性能Nvme SSD和RDMA網(wǎng)絡(luò)所構(gòu)建,響應(yīng)速度其實(shí)也很快

實(shí)際上,響應(yīng)快速并非內(nèi)存的專(zhuān)利,Nvme SSD同樣有優(yōu)秀的時(shí)延表現(xiàn),下圖是市面上某款Nvme SSD的性能指標(biāo):

16692969130463z2177nyhq

  • 作為存算分離的數(shù)據(jù)庫(kù),穩(wěn)定性遠(yuǎn)超緩存Redis

開(kāi)源Redis的穩(wěn)定性問(wèn)題存在已久,單線程、fork機(jī)制、Gossip協(xié)議……這些都是讓開(kāi)源Redis穩(wěn)定性不夠好的原因。在小數(shù)據(jù)量緩存場(chǎng)景問(wèn)題不一定經(jīng)常出現(xiàn),但在百GB的大數(shù)據(jù)存儲(chǔ)場(chǎng)景下很容易成為打破系統(tǒng)穩(wěn)定的隱患。

GaussDB(for Redis)存算分離架構(gòu)對(duì)穩(wěn)定性的提升是巨大的。在擴(kuò)容場(chǎng)景,只需調(diào)整存儲(chǔ)池配合,即可1秒完成擴(kuò)容,業(yè)務(wù)0感知。由于數(shù)據(jù)全部存儲(chǔ)在分布式存儲(chǔ)池中,當(dāng)計(jì)算節(jié)點(diǎn)發(fā)生故障,數(shù)據(jù)依然可見(jiàn),業(yè)務(wù)只感知秒級(jí)抖動(dòng)。同時(shí),也不會(huì)發(fā)生分片數(shù)據(jù)不均OOM問(wèn)題。

  • 存儲(chǔ)百GB畫(huà)像數(shù)據(jù),比緩存Redis成本節(jié)省 50%以上

GaussDB(for Redis)在這類(lèi)場(chǎng)景下能夠幫助企業(yè)實(shí)現(xiàn)有效降本,原因是:

  1. 內(nèi)存+分布式存儲(chǔ)池(Nvme SSD)

開(kāi)源Redis技術(shù)上無(wú)法突破內(nèi)存限制,因此成本會(huì)隨著每漲1GB而線性增長(zhǎng),大數(shù)據(jù)業(yè)務(wù)中很容易帶來(lái)成本痛點(diǎn)。

GaussDB(for Redis)分布式存儲(chǔ)池采用的高性能Nvme SSD硬件成本雖然比普通SSD高,但是跟內(nèi)存相比還是比較高性價(jià)比的。另外還支持根據(jù)實(shí)際所需QPS購(gòu)買(mǎi)計(jì)算節(jié)點(diǎn),避免不必要的算力成本浪費(fèi)。

  1. 高壓縮比

很多畫(huà)像類(lèi)業(yè)務(wù)使用protobuf格式,GaussDB(for Redis)采用了邏輯數(shù)據(jù)+塊數(shù)據(jù)雙重壓縮機(jī)制,對(duì)于protobuf的壓縮比效果很好。根據(jù)現(xiàn)網(wǎng)案例經(jīng)驗(yàn),500GB的protobuf數(shù)據(jù)寫(xiě)入GaussDB(for Redis)后,實(shí)際占用的存儲(chǔ)空間可壓縮到160G,壓縮率30%。

四、總結(jié)

RTA廣告競(jìng)價(jià)業(yè)務(wù)近年來(lái)發(fā)展?jié)摿薮螅环矫嬉獫M足媒體側(cè)的性能指標(biāo)要求,另一方面又要承擔(dān)企業(yè)降本重任。在這類(lèi)典型大數(shù)據(jù)業(yè)務(wù)中,往往需要一款能夠兼顧性能與存儲(chǔ)降本需求的KV數(shù)據(jù)庫(kù)來(lái)做畫(huà)像存儲(chǔ),華為云數(shù)據(jù)庫(kù)GaussDB(for Redis)無(wú)論從性能、穩(wěn)定性,還是大容量、低成本,都充分滿足這類(lèi)場(chǎng)景的需求,是其最佳存儲(chǔ)選型。
審核編輯:湯梓紅

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 存儲(chǔ)
    +關(guān)注

    關(guān)注

    13

    文章

    4320

    瀏覽量

    85906
  • 華為云
    +關(guān)注

    關(guān)注

    3

    文章

    2566

    瀏覽量

    17461
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    華為Flexus X實(shí)例,Redis性能加速評(píng)測(cè)及對(duì)比

    隨著計(jì)算技術(shù)的飛速發(fā)展,Redis 作為一種高性能的內(nèi)存數(shù)據(jù)庫(kù),在各種應(yīng)用場(chǎng)景中發(fā)揮著越來(lái)越重要的作用。為了滿足不同用戶對(duì) Redis 性能的高要求,華為
    的頭像 發(fā)表于 12-29 15:47 ?161次閱讀
    <b class='flag-5'>華為</b><b class='flag-5'>云</b>Flexus X實(shí)例,<b class='flag-5'>Redis</b>性能加速評(píng)測(cè)及對(duì)比

    華為 Flexus X 輕松實(shí)現(xiàn) Redis 一主多從高效部署

    ,F(xiàn)lexus?X 預(yù)裝 Redis 加速鏡像,簡(jiǎn)化了 Redis 的安裝和配置流程,降低了技術(shù)門(mén)檻,使開(kāi)發(fā)者能夠更專(zhuān)注于業(yè)務(wù)邏輯的實(shí)現(xiàn)。 ????????本文將詳細(xì)介紹如何在華為
    的頭像 發(fā)表于 12-27 13:45 ?180次閱讀
    <b class='flag-5'>華為</b><b class='flag-5'>云</b> Flexus X 輕松實(shí)現(xiàn) <b class='flag-5'>Redis</b> 一主多從高效部署

    OpenAI考慮將廣告引入AI產(chǎn)品,拓展收入來(lái)源

    產(chǎn)品的ChatGPT日益受到市場(chǎng)關(guān)注。 據(jù)知情人士透露,為了這一目的,OpenAI正在積極從包括Meta和谷歌在內(nèi)的科技巨頭那里招募廣告領(lǐng)域的專(zhuān)業(yè)人才。這些人才的加入,無(wú)疑將為OpenAI在廣告業(yè)務(wù)上的布局提供強(qiáng)有力的支持。 然而,Sarah Friar也在聲明中謹(jǐn)慎地指
    的頭像 發(fā)表于 12-04 13:58 ?240次閱讀

    NVIDIA助力百度提升數(shù)據(jù)分析效能

    在現(xiàn)代商業(yè)環(huán)境中,數(shù)據(jù)分析已然成為企業(yè)獲取成功的關(guān)鍵所在。長(zhǎng)期以來(lái),百度廣告數(shù)據(jù)團(tuán)隊(duì)始終面臨著極為復(fù)雜的數(shù)據(jù)分析挑戰(zhàn),其需要為逾千名用戶提供在線廣告業(yè)務(wù)分析服務(wù),而這些用戶涵蓋策略工程師、產(chǎn)品經(jīng)理
    的頭像 發(fā)表于 11-20 10:06 ?210次閱讀

    大模型時(shí)代下的新一代廣告系統(tǒng)

    沿的深度學(xué)習(xí)等算法技術(shù),創(chuàng)新并應(yīng)用到業(yè)務(wù)實(shí)踐中,賦能千萬(wàn)商家和數(shù)億消費(fèi)者的消費(fèi)連接,不斷拓展中國(guó)乃至全世界的數(shù)字經(jīng)濟(jì)邊界。 在這里,你將與各業(yè)務(wù)、產(chǎn)品、工程團(tuán)隊(duì)緊密合作,深入京東億量級(jí)的數(shù)據(jù)與豐富的廣告業(yè)務(wù)場(chǎng)景
    的頭像 發(fā)表于 09-20 14:40 ?211次閱讀
    大模型時(shí)代下的新一代<b class='flag-5'>廣告</b>系統(tǒng)

    恒訊科技分析:數(shù)據(jù)庫(kù)rds和redis區(qū)別是什么如何選擇?

    數(shù)據(jù)庫(kù)RDS(Relational Database Service)和Redis是兩種不同類(lèi)型的數(shù)據(jù)庫(kù)服務(wù),它們有各自的特點(diǎn)和適用場(chǎng)景: 1、數(shù)據(jù)模型:RDS是一種關(guān)系型數(shù)據(jù)庫(kù)服務(wù),通常用于存儲(chǔ)
    的頭像 發(fā)表于 08-19 15:31 ?408次閱讀

    Redis 開(kāi)源社區(qū)持續(xù)壯大,華為為 Valkey 項(xiàng)目注入新的活力

    Valkey 社區(qū)的 Technical Steering Committee member,華為將持續(xù)參與社區(qū)建設(shè)。 一、背景 今年 3 月 21 日,Redis Labs 宣布從 Re
    的頭像 發(fā)表于 05-09 22:59 ?743次閱讀
    <b class='flag-5'>Redis</b> 開(kāi)源社區(qū)持續(xù)壯大,<b class='flag-5'>華為</b><b class='flag-5'>云</b>為 Valkey 項(xiàng)目注入新的活力

    華為GaussDB數(shù)據(jù)庫(kù)基礎(chǔ)版發(fā)布:旗艦性能、價(jià)格下降超60%

    高性價(jià)比:相比企業(yè)版,華為 GaussDB 基礎(chǔ)版價(jià)格大幅下調(diào)(降幅達(dá) 60%-70%),且支持全場(chǎng)景數(shù)據(jù)壓縮,具有“超高壓縮比”,性能影響僅為 5%-10%,存儲(chǔ)成本降低 50%。
    的頭像 發(fā)表于 05-07 14:21 ?639次閱讀

    蘋(píng)果公司擴(kuò)大佛羅里達(dá)州業(yè)務(wù),租賃45000平方英尺空間。

    現(xiàn)階段,蘋(píng)果已經(jīng)在邁阿密運(yùn)營(yíng)一家廣告業(yè)務(wù)的分支機(jī)構(gòu),主要服務(wù)拉丁美洲市場(chǎng)。在此基礎(chǔ)上,蘋(píng)果準(zhǔn)備將其在邁阿密南部的珊瑚蓋布爾斯的新辦公室進(jìn)行擴(kuò)建。
    的頭像 發(fā)表于 04-10 10:52 ?333次閱讀

    淺析 KV 存儲(chǔ)之長(zhǎng)尾時(shí)延問(wèn)題,探尋行業(yè)更優(yōu)解決方案!

    技術(shù)背景 目前,KV 存儲(chǔ)的廣泛使用極大程度上源于快速訪問(wèn)的業(yè)務(wù)需求,而這種業(yè)務(wù)通常對(duì)時(shí)延敏感度高,在較好的平均性能下,還需要解決特定場(chǎng)景下的性能抖動(dòng)。開(kāi)源 Redis 在 AOF 重
    的頭像 發(fā)表于 04-08 18:28 ?1294次閱讀
    淺析 KV <b class='flag-5'>存儲(chǔ)</b>之長(zhǎng)尾時(shí)延問(wèn)題,探尋行業(yè)更優(yōu)解決方案!

    華為 GeminiDB 發(fā)布新版本,全面支持 Redis 6.2

    華為 GeminiDB 是一款兼容 Redis 協(xié)議的彈性 KV(Key-Value)數(shù)據(jù)庫(kù),支持遠(yuǎn)超內(nèi)存的容量和極致的性能,可支撐用戶平滑遷移,在廣告、游戲、電商等行業(yè)有著廣泛的應(yīng)
    的頭像 發(fā)表于 04-08 18:22 ?1134次閱讀
    <b class='flag-5'>華為</b><b class='flag-5'>云</b> GeminiDB 發(fā)布新版本,全面支持 <b class='flag-5'>Redis</b> 6.2

    數(shù)據(jù)安全沒(méi)保障?GaussDB(for Redis) 為你保駕護(hù)航

    未知的 key,實(shí)際上可能面臨數(shù)據(jù)庫(kù)信息丟失和記錄篡改的風(fēng)險(xiǎn)。 作為一個(gè)重視技術(shù)的團(tuán)隊(duì),我們始終將用戶信息安全和使用體驗(yàn)放在第一位。對(duì)于這次用戶使用開(kāi)源 Redis 遇到的問(wèn)題,我們盤(pán)點(diǎn)了 GaussDB(for Redis)精
    的頭像 發(fā)表于 03-28 22:09 ?682次閱讀
    數(shù)據(jù)安全沒(méi)保障?<b class='flag-5'>GaussDB</b>(for <b class='flag-5'>Redis</b>) 為你保駕護(hù)航

    GaussDB(for Redis) 特性揭秘:多租戶管理

    華為 GaussDB(for Redis)持續(xù)完善企業(yè)級(jí)增強(qiáng)特性,是名副其實(shí)的 "Redis Plus" ,其中很經(jīng)典的企業(yè)級(jí)特性是 多租
    的頭像 發(fā)表于 03-28 22:06 ?753次閱讀
    <b class='flag-5'>GaussDB</b>(for <b class='flag-5'>Redis</b>) 特性揭秘:多租戶管理

    GaussDB(for Redis) 特性揭秘:大 key 治理

    運(yùn)行過(guò)程中悄悄產(chǎn)生的,讓人防不勝防。因此,一款可隨時(shí)在線診斷,且能主動(dòng)預(yù)警,防患于未然的 Redis 服務(wù)產(chǎn)品顯得尤為重要。 ? 作為由華為精心打造的企業(yè)級(jí) Redis,
    的頭像 發(fā)表于 03-28 22:06 ?670次閱讀
    <b class='flag-5'>GaussDB</b>(for <b class='flag-5'>Redis</b>) 特性揭秘:大 key 治理

    GaussDB(for Redis) 游戲?qū)嵺`:玩家下線行為上報(bào)

    實(shí)現(xiàn)以上功能時(shí),感知用戶下線行為延遲較大,導(dǎo)致上報(bào)時(shí)間不準(zhǔn)確。華為 GaussDB(for Redis)作為一款企業(yè)級(jí)游戲數(shù)據(jù)庫(kù),具備卓越的企業(yè)級(jí)能力,能及時(shí)上報(bào)用戶下線行為,并被
    的頭像 發(fā)表于 03-28 22:03 ?530次閱讀