目前,數(shù)據(jù)中心在異構(gòu)計算和算法標(biāo)準(zhǔn)上不斷變化,越來越多的應(yīng)用領(lǐng)域需要專用的架構(gòu),使得硬件能夠和算法去進(jìn)行匹配以達(dá)到最佳運(yùn)行效果或者是提高它的運(yùn)行速度。網(wǎng)絡(luò)上有很多不同的數(shù)據(jù),這些數(shù)據(jù)在運(yùn)行過程當(dāng)中有不同的要求,而且網(wǎng)絡(luò)自身也在不斷迭代,計算、網(wǎng)絡(luò)和存儲對加速的要求都在水漲船高。對于硬件而言,理想的方式是能在不改變硬件的情況下,加速任何工作負(fù)載,并能降低總體擁有成本。
針對這一需求趨勢,去年10月份的時候,賽靈思推出了Alveo系列加速卡。賽靈思數(shù)據(jù)中心業(yè)務(wù)部產(chǎn)品規(guī)劃和市場營銷總監(jiān)Jamon Bowen將這一系列產(chǎn)品的規(guī)劃目的總結(jié)為三個:快速、靈活應(yīng)變和方便易用。即高吞吐量同時具有超低時延,能夠?yàn)槎喾N工作負(fù)載進(jìn)行加速,并且可以運(yùn)用于云和本地各種場景。Alveo系列包括U200、U250和U280,區(qū)別主要是FPGA中的LUT規(guī)模和總線資源。今天,該公司宣布推出了Alveo系列最新的一款加速卡Alveo U50。
輕——輕量級加速
和該系列之前的產(chǎn)品不同,Alveo U50是業(yè)界首款輕量級PCIe Gen4自適應(yīng)計算加速卡,并且面向所有服務(wù)器、各種云和邊緣的數(shù)據(jù)中心應(yīng)用,包括網(wǎng)絡(luò)和存儲加速?!斑@是之前的產(chǎn)品做不到的。”Bowen說。
圖:從賽靈思提供的資料看,U50似乎是U280的迷你版。
Alveo U50支持PCIe Gen4這一最新的服務(wù)器總線和CCIX互聯(lián)標(biāo)準(zhǔn),不同于GPU加速器的尺寸,U50要小的多,“GPU加速器的尺寸適合電腦,但不適用于網(wǎng)絡(luò)和存儲,”Bowen說,“采用賽靈思UltraScale+架構(gòu)以及集成超高帶寬的HBM2存儲器技術(shù)大大減少了U50的尺寸?!?/div>
采用HBM2這種片上存儲不僅僅是出于體積的考慮,還在于這能提升性能——HBM性能是DDR的10倍。U50內(nèi)置8GB HBM2,可實(shí)現(xiàn)超過400Gbps的數(shù)據(jù)傳輸速度。PCIe Gen4也是目前最快的總線技術(shù),這些都是存儲加速的要素。在網(wǎng)絡(luò)端口方面,U50的QSFP28端口可以實(shí)現(xiàn)100Gbps的網(wǎng)絡(luò)連接,并支持多種前沿應(yīng)用,如VMe-oF(NVM Express over Fabrics)、解耦計算存儲和專業(yè)金融服務(wù)應(yīng)用。滿足所有這些性能只需要不到75W的功耗,這可以讓很多應(yīng)用不再為功耗預(yù)算而擔(dān)心。
在一組針對語音翻譯(深度學(xué)習(xí)推斷加速)、數(shù)據(jù)庫分析(數(shù)據(jù)分析加速)、數(shù)據(jù)壓縮(計算存儲加速)、電子交易(網(wǎng)絡(luò)加速)和金融建模(網(wǎng)格計算)的加速測試中,與GPU和CPU加速相比,U50的表現(xiàn)優(yōu)異。其中,語音翻譯的時延降低25倍,吞吐量擴(kuò)大10倍,在翻譯性能方面,和英偉達(dá)T4 相比,U50 性能提升高達(dá)10倍;在運(yùn)行TPC-H Query基準(zhǔn)測試(數(shù)據(jù)庫分析)時,相比CPU,U50每小時吞吐量提升4倍,運(yùn)營成本降低3倍;在數(shù)據(jù)壓縮上,U50將壓縮/解壓縮吞吐量提高了20倍,實(shí)現(xiàn)了更快的Hadoop和大數(shù)據(jù)分析,同時相比僅CPU節(jié)點(diǎn)將每節(jié)點(diǎn)成本降低了40%;在電子交易中,U50相比僅CPU的10us延時,能將時延降低20%,交易時間不到500ns;在金融建模時,運(yùn)行蒙特卡洛模擬,U50的功效相比GPU提升了7倍。
圖:U50在吞吐量,延遲和功效方面實(shí)現(xiàn)了10-20倍的改善
總的來說,U50在吞吐量,延遲和功效方面實(shí)現(xiàn)了10-20倍的改善。“我們的戰(zhàn)略是致力于讓賽靈思靈活應(yīng)變的加速技術(shù)應(yīng)用于數(shù)據(jù)中心的所有領(lǐng)域,具體來說就是計算、網(wǎng)絡(luò)和存儲,”Bowen說,“所有的計算工作負(fù)載都是這三個領(lǐng)域的一部分,這也是我們看到Alveo可以大展宏圖的地方?!?/div>
重——兩個重要堆棧
計算、網(wǎng)絡(luò)和存儲為什么需要加速?因?yàn)橹T如AlexNet、GoogleNet、DenseNet這些網(wǎng)絡(luò)結(jié)構(gòu)都需要不同的硬件架構(gòu)來實(shí)現(xiàn)高吞吐量、低時延和高效率。對于應(yīng)用而言,加速可以靈活適應(yīng)不同的需求。而數(shù)據(jù)中心要優(yōu)化性能,需要定制數(shù)據(jù)路徑、定制精度和定制存儲器層級,沒有比可編程的硬件更適合來進(jìn)行定制化的加速了。不過,對于數(shù)據(jù)中心開發(fā)者而言,F(xiàn)PGA編程是個令人頭痛的事情。
“我們從數(shù)據(jù)中心的客戶那里聽到的一個最大的抱怨就是FPGA的編程非常困難,”Bowen說,“Alveo提供開放的平臺和開發(fā)環(huán)境,讓開發(fā)者能夠更加便捷地使用,隨著越來越多的開發(fā)者到這個平臺上來開發(fā),會有更多的云和相關(guān)產(chǎn)品加入,并且能夠?qū)崿F(xiàn)原來只有在軟件部分才有可能實(shí)現(xiàn)的硬件IP的靈活應(yīng)變能力?!?/div>
對于賽靈思而言,這個開放平臺正在形成一個解決方案的堆棧,好消息是,自去年10月份推出Alveo以來,目前已發(fā)布的應(yīng)用已經(jīng)是當(dāng)初的2倍,而其培訓(xùn)的開發(fā)者已經(jīng)是當(dāng)初的4倍。
圖:解決方案堆棧
開發(fā)堆棧解決了FPGA加速卡的開發(fā)難題,接下來就是大規(guī)模部署落地的難題。Alveo系列的應(yīng)用領(lǐng)域包括數(shù)據(jù)分析、視頻與圖象處理、機(jī)器學(xué)習(xí)、生命科學(xué)和金融計算——不僅是云的覆蓋,還要部署落地。在諸多調(diào)動IT業(yè)者積極性的因素中,“充分商業(yè)化的標(biāo)準(zhǔn)化產(chǎn)品”是重要的一個,這使得賽靈思的標(biāo)準(zhǔn)產(chǎn)品的開源框架很容易被Kubernetes和docker這類免費(fèi)的微服務(wù)內(nèi)容平臺連接。
“因?yàn)槲覀兪且粋€非常標(biāo)準(zhǔn)化的產(chǎn)品,所以Kubernetes可以在系統(tǒng)內(nèi)反映出Alveo插件,開發(fā)者也可以把它和docker配合起來,通過對Alveo進(jìn)行編程而在系統(tǒng)中體現(xiàn)出加速應(yīng)用?!盉owen解釋道,“所有編排、云管理和應(yīng)用都和這些免費(fèi)的生態(tài)系統(tǒng)結(jié)合,如果沒有這樣一個標(biāo)準(zhǔn)化的產(chǎn)品配置,客戶可能需要花費(fèi)大量的投資才能夠?qū)崿F(xiàn)這樣一個功能,這對于一些超大規(guī)模數(shù)據(jù)中心的應(yīng)用來說是非常有必要的,既可以在云端,也可以用Alveo在本地進(jìn)行加速,而且是一個非常開放式的框架,可以進(jìn)行全面的加速?!?/strong>
這個生態(tài)就是一個大規(guī)模部署堆棧,賽靈思在其中開發(fā)了一個標(biāo)準(zhǔn)框架,然后提供Alveo產(chǎn)品,讓開發(fā)者像加速軟件那樣給服務(wù)器加速——重要的是,通過開發(fā)這個標(biāo)準(zhǔn)框架,賽靈思決定了應(yīng)用場景的加速方式。
圖:大規(guī)模部署堆棧
據(jù)悉,賽靈思選擇在今天(8月7日)發(fā)布Alveo U50,是因?yàn)檫@兩天(8月6-8日),閃存峰會(Flash Memory Summit (FMS) 2019)正在美國加州圣克拉拉會議中心舉辦,賽靈思執(zhí)行副總裁兼數(shù)據(jù)中心部總經(jīng)理Salil Raje將發(fā)表有關(guān)高速存儲系統(tǒng)加速的的主題演講,該公司同時也會在現(xiàn)場演示這款最新的產(chǎn)品。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。
舉報投訴
-
賽靈思
+關(guān)注
關(guān)注
32文章
1794瀏覽量
131271 -
加速卡
+關(guān)注
關(guān)注
1文章
60瀏覽量
10946
發(fā)布評論請先 登錄
相關(guān)推薦
AMD Alveo媒體加速產(chǎn)品組合SDK 1.2.1發(fā)布
我們很高興地宣布AMD Alveo 媒體加速產(chǎn)品組合( AMA )SDK 1.2.1 版本發(fā)布,從而進(jìn)一步擴(kuò)展 AMD Alveo MA35D 媒體
S7t-VG6 VectorPath加速卡的特性和功能
S7t-VG6 VectorPath加速卡是Achronix公司聯(lián)合BittWare公司(Molex旗下的領(lǐng)先企業(yè)級FPGA加速器產(chǎn)品供應(yīng)商)推出的一類全新的、面向高性能計算和數(shù)據(jù)加速應(yīng)用的FPGA
U50的AMD Vivado Design Tool flow設(shè)置
AMD Alveo 加速卡使用有兩種流程,AMD Vitis Software Platform flow 和 AMD Vivado Design Tool flow。比較常見的是 Vitis
AMD Alveo V80計算加速器網(wǎng)絡(luò)研討會
V80 計算加速卡由 AMD Versal HBM 自適應(yīng) SoC 提供支持,具有 Alveo 產(chǎn)品系列中最高的邏輯密度、內(nèi)存帶寬、網(wǎng)絡(luò)吞吐量和 DSP 計算能力。
AMD 以全球極快的纖薄尺寸電子交易加速卡擴(kuò)展 Alveo 產(chǎn)品組合,助力廣泛且具性價比的服務(wù)器部署
— AMD Alveo UL3422 加速卡為高頻交易員在爭奪最快交易執(zhí)行的競爭中提供了優(yōu)勢,同時降低了進(jìn)入門檻 — ? 2024 年 10 月 14 日,加利福尼亞州圣克拉拉 — AMD(超威
發(fā)表于 10-16 14:35
?121次閱讀
AMD 以全球極快的纖薄尺寸電子交易加速卡擴(kuò)展 Alveo 產(chǎn)品組合,助力廣泛且具性價比的服務(wù)器部署
— AMD Alveo UL3422 加速卡為高頻交易員在爭奪最快交易執(zhí)行的競爭中提供了優(yōu)勢,同時降低了進(jìn)入門檻 — ? 2024 年 10 月 14 日,加利福尼亞州圣克拉拉 — AMD(超威
發(fā)表于 10-16 14:16
?163次閱讀
AMD推出新款纖薄尺寸電子交易加速卡
AMD(超威,納斯達(dá)克股票代碼:AMD)今日宣布推出 AMD Alveo UL3422 加速卡 ,這是其創(chuàng)紀(jì)錄的加速卡系列1的最新成員,專為超低時延電子交易應(yīng)用而設(shè)計。AMD Alveo
借助全新 AMD Alveo? V80 計算加速卡釋放計算能力
對于大規(guī)模數(shù)據(jù)處理,最佳性能不僅取決于原始計算能力,還取決于高存儲器帶寬。 因此,全新 AMD Alveo? V80 計算加速卡專為具有大型數(shù)據(jù)集的內(nèi)存受限型應(yīng)用而設(shè)計,這些應(yīng)用需要 FPGA 硬件
發(fā)表于 05-16 14:09
?216次閱讀
AMD Alveo V80計算加速卡實(shí)現(xiàn)量產(chǎn)
AMD公司近日迎來了一個重要的里程碑,其專為大型數(shù)據(jù)集和內(nèi)存受限型應(yīng)用設(shè)計的Alveo V80計算加速卡,已正式進(jìn)入量產(chǎn)出貨階段。這款創(chuàng)新產(chǎn)品針對高性能計算(HPC)、數(shù)據(jù)分析、金融、網(wǎng)絡(luò)安全以及計算存儲等關(guān)鍵領(lǐng)域,展現(xiàn)了強(qiáng)大的應(yīng)用潛力。
AMD正式量產(chǎn)Alveo V80計算加速卡,優(yōu)化大數(shù)據(jù)集中的內(nèi)存瓶頸問題
適用場景包括HPC、數(shù)據(jù)分析、金融、網(wǎng)絡(luò)安全及計算存儲等領(lǐng)域。據(jù)AMD官網(wǎng)上顯示,計算加速卡建議零售價高達(dá)9495美元(當(dāng)前折合人民幣約為68,744元)。
英偉達(dá)發(fā)布最強(qiáng)AI加速卡Blackwell GB200
英偉達(dá)在最近的GTC開發(fā)者大會上發(fā)布了其最新、最強(qiáng)大的AI加速卡——GB200。這款加速卡采用了新一代AI圖形處理器架構(gòu)Blackwell,標(biāo)志著英偉達(dá)在AI圖形處理領(lǐng)域邁入了一個新的里程碑。
英偉達(dá)發(fā)布最強(qiáng)AI加速卡GB200,開啟新一代AI圖形處理時代
英偉達(dá)正式發(fā)布了其最新、也是迄今為止最強(qiáng)大的AI加速卡——GB200。這一重大發(fā)布標(biāo)志著英偉達(dá)在AI圖形處理領(lǐng)域邁入了一個新的里程碑。
今日看點(diǎn)丨英偉達(dá)發(fā)布最強(qiáng) AI 加速卡--Blackwell GB200;三星面臨罷工 存儲市場供需引關(guān)注
1. 英偉達(dá)發(fā)布最強(qiáng) AI 加速卡--Blackwell GB200 ,今年發(fā)貨 ? 3 月 19 日,英偉達(dá)發(fā)布最強(qiáng) AI 加速卡--Blackwell GB200,今年發(fā)貨。英偉達(dá)
發(fā)表于 03-19 11:08
?1245次閱讀
寧暢發(fā)布《基于標(biāo)準(zhǔn)PCIe接口的人工智能加速卡液冷設(shè)計》白皮書
寧暢公司最近發(fā)布了一份名為《基于標(biāo)準(zhǔn)PCIe接口的人工智能加速卡液冷設(shè)計》的技術(shù)白皮書,這份白皮書由寧暢參與起草,并由開放計算標(biāo)準(zhǔn)工作委員會(OCTC)歸口,旨在為冷板式人工智能加速卡的設(shè)計提供重要的指導(dǎo)。
寧暢參與發(fā)布AI加速卡液冷設(shè)計白皮書
近日,由寧暢參與起草的《基于標(biāo)準(zhǔn)PCIe接口的人工智能加速卡液冷設(shè)計》白皮書正式發(fā)布。該技術(shù)白皮書由開放計算標(biāo)準(zhǔn)工作委員會(OCTC)歸口,旨在為冷板式人工智能加速卡的設(shè)計提供重要指導(dǎo)。
評論