支撐海量數(shù)據(jù),分布式存儲該如何應戰(zhàn)

在曙光舉辦的技術圓桌派上，來自業(yè)內(nèi)的多位大咖和專家就數(shù)字化轉(zhuǎn)型與分布式存儲發(fā)展趨勢展開討論。

支撐海量數(shù)據(jù)

分布式存儲該如何應戰(zhàn)

伴隨著云計算、大數(shù)據(jù)、物聯(lián)網(wǎng)等信息技術的快速發(fā)展和傳統(tǒng)產(chǎn)業(yè)數(shù)字化的轉(zhuǎn)型，新技術的應用與推廣帶來海量數(shù)據(jù)的規(guī)?；奂?。用戶對存儲系統(tǒng)的穩(wěn)定性、性能和彈性擴展能力有著更高的期待，而傳統(tǒng)集中式存儲煙囪式的部署模式在擴展性和管理上都遇到非常多的挑戰(zhàn)，主持人黃海峰在圓桌派一開始向嘉賓們提出了這一問題。

“2021年，分布式存儲和云存儲在量和銷售額方面的增速分別達到30%和20%，相較于傳統(tǒng)存儲的20%和8%，分布式存儲遠遠勝于傳統(tǒng)存儲?！辟惖项檰枠I(yè)務總監(jiān)高丹對2021年的存儲市場格局做出了總結(jié)。

“面對海量爆發(fā)的數(shù)據(jù)，以前傳統(tǒng)集中式的存儲已經(jīng)不是最優(yōu)選了?！敝锌剖锕獯鎯κ聵I(yè)部副總經(jīng)理張新鳳表示，“對分布式存儲本身來說，破解海量數(shù)據(jù)存儲難題，也是有非常多的挑戰(zhàn)?！?/p>

首先，就是解決海量數(shù)據(jù)的存儲。海量不簡簡單單的是設備的堆集，技術難度是指數(shù)級的增長。要看廠商是否有豐富的超大部署規(guī)模和實施經(jīng)驗;第二是能對5G、AI、區(qū)塊鏈等新技術有更好的支持。這就需要統(tǒng)一協(xié)議的支持，打通從數(shù)據(jù)的采集、應用、分析到歸檔的鏈路，做到異構(gòu)數(shù)據(jù)的融合;第三，針對用戶實際應用，在產(chǎn)品性能和功能上做到深度的定制。

自研優(yōu)勢盡顯

曙光分布式存儲領跑市場

“存儲的市場，是一個需要很深的技術積累和很大資金投入的市場。曙光推出的產(chǎn)品是自研的。自研的路線，對客戶節(jié)約成本角度來說，還是對我們自己安全的角度來說，都是一套比較好的技術路線，我也希望我們自己國家的自研路線走的越來越好?！备叩け硎尽?/p>

“曙光做存儲，一開始就選擇了分布式存儲路線。”張新鳳介紹，2009年，曙光推出第一代全自主研發(fā)的分布式存儲系統(tǒng)ParaStor，基于POSIX協(xié)議，在做數(shù)據(jù)處理的時候有很好的性能體驗;2013年，數(shù)據(jù)中心已經(jīng)開始比較規(guī)模化的部署，這個時候我們完成了對NAS共享的支持;2019年，基本各個行業(yè)都在普及云化，我們?yōu)榱私鉀Q業(yè)務上云的問題，又推出分布式塊協(xié)議?，F(xiàn)在， 曙光分布式存儲系統(tǒng)ParaStor完成了對文件、塊、對象和大數(shù)據(jù)協(xié)議的支持，基本覆蓋所有應用場景。

基于自研優(yōu)勢，曙光可根據(jù)不同行業(yè)用戶的不同需求，進行代碼級的定制化設計與開發(fā)，產(chǎn)品功能和性能指標可大大優(yōu)于同類產(chǎn)品。“比如我們的分布式對象，單桶就可以實現(xiàn)4K小文件千億級別的存儲，一個系統(tǒng)TPS的聚合性能可以達到百萬級，這種水平是業(yè)內(nèi)一流的?！睆埿馒P說。

曙光成就產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型

最佳實踐

“分布式的應用越來越廣泛，但細化到具體的應用場景里，又會發(fā)現(xiàn)應用需求是千差萬別的?！泵鎸Ξ斍胺植际酱鎯Χ鄻踊膽眯枨螅瑥埿馒P表示“要快速的響應市場需求，推出合適的產(chǎn)品，首先要有強有力的團隊支撐，其次是對行業(yè)的深耕和理解，基于以上兩者的優(yōu)勢，對用戶推出定制化的產(chǎn)品及運維服務。”

張新鳳介紹，在某科研機構(gòu)氣候模擬和科學研究項目中，為了幫助用戶解決業(yè)務流程時間過長的問題，曙光集結(jié)專業(yè)研發(fā)團隊為客戶定制加速技術。在計算和存儲節(jié)點之間，配備了大內(nèi)存和高速NVMe的性能加速節(jié)點，把大量4K非對齊IO在這個節(jié)點上先做聚合，再到存儲上面。最后用戶實測使用性能提升8到10倍?！皩Υ鎯夹g有了一定的積累，對應用有相當?shù)睦斫猓拍苎杆僮サ接脩粜枨笸袋c，快速響應。”

“在石油勘探過程中，數(shù)據(jù)存儲和分析處理的需求呈幾何倍增長，對存儲容量以及擴展性都提了很高的要求;石油勘探領域?qū)κ占蟻淼臄?shù)據(jù)，需要提供TB級及PB級的讀寫性能，來滿足我們現(xiàn)在前端的密集計算和模擬?！?，中石化石油物探技術研究院信息中心技術主管葛鑫提及。

“在輿情數(shù)據(jù)智能分析時，客戶要求系統(tǒng)架構(gòu)能融合訓練、分析及推理，傳統(tǒng)存算一體化的模式就不太適用。”中科天璣區(qū)域拓展部總經(jīng)理劉維秦在分布式存儲應用中談到，”曙光原生HDFS協(xié)議的支持，在存算分離的基礎上，保證了性能的指數(shù)級提升，還可以支持更多大數(shù)據(jù)高級功能。”

“未來的存儲系統(tǒng)要很好地支撐應用，無論是性能的極致優(yōu)化，或者是功能的定制”，張新鳳對存儲市場的未來發(fā)展演進做出判斷，“沒有一蹴而就的捷徑可以走，更多的是天長日久的積累和演進”，作為國內(nèi)第一批做自研分布式存儲的廠商，曙光將以更扎實的科研技術、更先進的存儲產(chǎn)品、更優(yōu)質(zhì)的存儲服務，助力產(chǎn)業(yè)升級和數(shù)字化轉(zhuǎn)型。

原文標題：曙光技術圓桌派——分布式是新存儲時代的破題密鑰

文章出處：【微信公眾號：中科曙光】歡迎添加關注!文章轉(zhuǎn)載請注明出處。

審核編輯：湯梓紅