以下文章來(lái)源于阿里云瑤池?cái)?shù)據(jù)庫(kù),作者阿里云AnalyticDB
1. 概述
阿里云瑤池旗下的云原生數(shù)倉(cāng)AnalyticDB for PostgreSQL與AMD新一代硬件深度優(yōu)化,結(jié)合全自研計(jì)算引擎及行列混合存儲(chǔ)實(shí)現(xiàn)性能升級(jí),綜合性能提升30%。結(jié)合豐富的企業(yè)級(jí)能力幫助企業(yè)構(gòu)建離在線(xiàn)一體、流批一體綜合數(shù)據(jù)分析平臺(tái),采用同一引擎即可滿(mǎn)足離線(xiàn)批處理、流式加工,交互式分析三種場(chǎng)景,在開(kāi)發(fā)運(yùn)維、時(shí)效性及成本上具備更高的性?xún)r(jià)比。
2. 性能優(yōu)化路徑
2.1 硬件架構(gòu)優(yōu)化
2.1.1 芯片性能提升
AMD和阿里云聯(lián)合打造新一代硬件采用全新CIPU架構(gòu),處理器采用AMD EPYC Genoa處理器,可提供穩(wěn)定的算力輸出、更強(qiáng)勁的I/O引擎以及芯片級(jí)安全加固。
第四代EPYC較比第三代EPYC性能提升顯著,針對(duì)分析型數(shù)據(jù)庫(kù)產(chǎn)品痛點(diǎn)在高算力,高內(nèi)存帶寬,低延遲等特點(diǎn)進(jìn)行優(yōu)化,可幫助企業(yè)用戶(hù)在數(shù)據(jù)倉(cāng)庫(kù)、在線(xiàn)分析場(chǎng)景中具備更好的性能。
2.1.2 計(jì)算能效提升
在性能功耗比方面,新一代服務(wù)器在相同核心數(shù)量下(對(duì)比搭載兩個(gè)64核AMD EPYC 9534和兩個(gè)64核的AMD EPYC 7763的服務(wù)器)整數(shù)性能提升約24%,浮點(diǎn)性提升約52%??梢杂酶俚姆?wù)器來(lái)完成同樣的工作,或者用同樣數(shù)量的服務(wù)器在相同的時(shí)間內(nèi)完成更多的工作。
2.1.3 安全性和隔離性提升
第四代AMD EPYC支持安全內(nèi)存加密(SME)和安全加密虛擬化(SEV),將內(nèi)存與擁有他的線(xiàn)程相關(guān)聯(lián),從而幫助擊退旁路攻擊;增加了SEV中加密上下文的數(shù)量,可以容納更多的安全虛擬機(jī)。
通過(guò)AMD安全加密狀態(tài)(SEV-ES)幫助保護(hù)虛擬機(jī)狀態(tài)不受惡意或受損管理程序影響;還增加AMD安全嵌套分頁(yè)(SEV-SNP)功能,以防止數(shù)據(jù)重放、內(nèi)存重映射等攻擊。
2.2 數(shù)據(jù)庫(kù)內(nèi)核優(yōu)化
2.2.1 全自研計(jì)算引擎
AnalyticDB for PostgreSQL全自研計(jì)算引擎為數(shù)據(jù)處理和交互式分析加速。它通過(guò)以下技術(shù)實(shí)現(xiàn)性能提速:
● 應(yīng)用芯片向量化技術(shù)如SIMD指令集等把芯片的并行化計(jì)算能力利用到極致。
● 采用LLVM JIT即動(dòng)態(tài)編譯優(yōu)化,加速計(jì)算以提高數(shù)據(jù)處理效率。
● 自適應(yīng)內(nèi)存模型,根據(jù)計(jì)算模式動(dòng)態(tài)選擇行存/列存內(nèi)存模型。
● 針對(duì)典型場(chǎng)景提供加速方案,比如針對(duì)Runtime Filter加速Join分析,字典特性加速低基數(shù)字段計(jì)算場(chǎng)景等。
2.2.2 全自研行列混存
一份存儲(chǔ)下即可支持實(shí)時(shí)高吞吐寫(xiě)入/更新和實(shí)時(shí)高聚合分析兩種場(chǎng)景。
寫(xiě)入方面利用Write Optimized Part高效承接批量/流式數(shù)據(jù)并通過(guò)內(nèi)部Optimize優(yōu)化,將數(shù)據(jù)轉(zhuǎn)化為更利于查詢(xún)的Read Optimized Part,從而實(shí)現(xiàn)高效的查詢(xún)性能。利用Metadata實(shí)現(xiàn)高并發(fā)Update/Delete。
支持基于Btree索引的強(qiáng)主鍵模型,在寫(xiě)入數(shù)據(jù)時(shí)實(shí)現(xiàn)高效精準(zhǔn)去重。在實(shí)時(shí)寫(xiě)入場(chǎng)景中單CPU Core可達(dá)到10萬(wàn)行/秒的寫(xiě)入性能。
支持Upsert功能在產(chǎn)生主鍵沖突時(shí)用戶(hù)可根據(jù)實(shí)際業(yè)務(wù)需要靈活地選擇忽略更新、覆蓋更新或是條件更新模式。
在查詢(xún)方面,存儲(chǔ)引擎無(wú)縫兼容多種索引類(lèi)型如Btree、GIN、GIST和自研向量檢索索引,可以實(shí)現(xiàn)任意維度的高性能點(diǎn)查、全文檢索和向量檢索。
2.2.3 資源隔離增強(qiáng)
支持混合負(fù)載實(shí)現(xiàn)資源最大化利用,可同時(shí)承載流式寫(xiě)入,數(shù)據(jù)加工,交互式分析三類(lèi)任務(wù)。
引擎通過(guò)資源組實(shí)現(xiàn)資源管理,相對(duì)使用資源隊(duì)列更精細(xì)化、管理資源類(lèi)別更全面。
它支持對(duì)CPU、內(nèi)存按照業(yè)務(wù)優(yōu)先級(jí)設(shè)置資源隔離策略,支持動(dòng)態(tài)配置,配置即生效不需要重啟引擎,大大減輕運(yùn)維壓力。
2.2.4 安全能力增強(qiáng)
完善和增強(qiáng)安全能力:
● 網(wǎng)絡(luò)連接安全,支持SSL TLS 1.1/1.2/1.3加密算法,滿(mǎn)足最新的網(wǎng)絡(luò)安全要求。
● 存儲(chǔ)安全,支持云盤(pán)加密實(shí)現(xiàn)數(shù)據(jù)加密存儲(chǔ)。
● 加密算法,支持非對(duì)稱(chēng)加密和對(duì)稱(chēng)加密算法如SM4。
● 支持行級(jí)和列級(jí)權(quán)限管控,做到最細(xì)權(quán)限粒度控制和最小化敏感數(shù)據(jù)訪(fǎng)問(wèn)。
● 動(dòng)態(tài)數(shù)據(jù)脫敏,引擎級(jí)支持對(duì)敏感字段設(shè)置脫敏規(guī)則,實(shí)現(xiàn)敏感信息過(guò)濾和保護(hù)。
● 支持SQL審計(jì)可對(duì)SQL操作明細(xì)進(jìn)行審核。支持事件審計(jì)可實(shí)現(xiàn)對(duì)異常行為追溯。
3. 測(cè)試結(jié)果
性能測(cè)試采用國(guó)際標(biāo)準(zhǔn)TPC-H測(cè)試集進(jìn)行,實(shí)驗(yàn)組搭載AMD EPYC Genoa服務(wù)器 ,對(duì)照組集群搭載同等規(guī)格下的其它主流硬件。
3.1 測(cè)試資源
3.2 測(cè)試過(guò)程
3.3 測(cè)試總結(jié)
采用國(guó)際標(biāo)準(zhǔn)TPC-H測(cè)試集以及在同等運(yùn)行環(huán)境下,AnalyticDB for PostgreSQL采用AMD EPY服務(wù)器較比常規(guī)主流服務(wù)器平均性能提升32.7%。
4. 優(yōu)勢(shì)及應(yīng)用場(chǎng)景
4.1 離在線(xiàn)一體分析
AnalyticDB for PostgreSQL在AMD硬件加持和全自研計(jì)算引擎及存儲(chǔ)助力下,可同時(shí)提供穩(wěn)定高效的離線(xiàn)批處理和高性能在線(xiàn)報(bào)表分析能力,具備高性?xún)r(jià)比:
● 數(shù)據(jù)加工后即可為下游報(bào)表工具或系統(tǒng)提供在線(xiàn)數(shù)據(jù)分析服務(wù),避免在多引擎中同步數(shù)據(jù)造成數(shù)據(jù)不一致和時(shí)效性低的問(wèn)題。
● 全自研引擎實(shí)現(xiàn)高性能交互式分析,行列混合存儲(chǔ)可實(shí)現(xiàn)高效的IO裁剪,加速多維組合分析。
● 支持實(shí)時(shí)物化視圖實(shí)現(xiàn)高并發(fā)報(bào)表查詢(xún)。
4.2 海外數(shù)倉(cāng)平滑遷移
SQL語(yǔ)法全覆蓋并且支持自定義函數(shù)和存儲(chǔ)過(guò)程。高度兼容Greenplum/Redshift/Synapse/Snowflake語(yǔ)法。
可覆蓋海外云數(shù)倉(cāng)產(chǎn)品企業(yè)級(jí)能力,在安全能力、資源隔離、容災(zāi)等方面實(shí)現(xiàn)加強(qiáng)。在實(shí)時(shí)分析、交互式分析能力上較比海外數(shù)倉(cāng)功能及性能更好,更具性?xún)r(jià)比。
4.3 流批一體實(shí)時(shí)數(shù)倉(cāng)
自研業(yè)界領(lǐng)先流批一體引擎讓用戶(hù)在數(shù)倉(cāng)內(nèi)即可開(kāi)發(fā)流式任務(wù),支持對(duì)批和流任務(wù)進(jìn)行細(xì)粒度的資源隔離。
● 可消費(fèi)Kafka/Flink/DTS實(shí)時(shí)數(shù)據(jù)源,支持高吞吐流式數(shù)據(jù)寫(xiě)入。
● 支持增量實(shí)時(shí)物化視圖同步和異步刷新,可實(shí)現(xiàn)實(shí)時(shí)多表關(guān)聯(lián)(支持左連接和右連接)、全量歷史數(shù)據(jù)回溯、流和批表關(guān)聯(lián)。
● 可支持實(shí)時(shí)Ad-hoc查詢(xún),滿(mǎn)足實(shí)時(shí)報(bào)表分析和下游應(yīng)用系統(tǒng)高時(shí)效性數(shù)據(jù)需求。
-
處理器
+關(guān)注
關(guān)注
68文章
19286瀏覽量
229811 -
amd
+關(guān)注
關(guān)注
25文章
5468瀏覽量
134148 -
服務(wù)器
+關(guān)注
關(guān)注
12文章
9160瀏覽量
85415 -
阿里云
+關(guān)注
關(guān)注
3文章
956瀏覽量
43036
原文標(biāo)題:性能30%↑|阿里云AnalyticDB*AMD EPYC,數(shù)據(jù)分析步入Next Level
文章出處:【微信號(hào):AMD中國(guó),微信公眾號(hào):AMD中國(guó)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論