隨著AI技術(shù)的快速發(fā)展,越來(lái)越多的企業(yè)開(kāi)始將AI技術(shù)應(yīng)用到自身業(yè)務(wù)之中。因此,對(duì)AI算力的需求在近幾年迅猛增長(zhǎng)。2020年5月11日IDC發(fā)布《人工智能基礎(chǔ)架構(gòu)市場(chǎng)(2019下半年)跟蹤》報(bào)告,2019年中國(guó)人工智能基礎(chǔ)架構(gòu)市場(chǎng)規(guī)模達(dá)到20.9億美元,同比增長(zhǎng)58.7%。其中GPU服務(wù)器占據(jù)96.1%的市場(chǎng)份額。IDC預(yù)測(cè),到2024年中國(guó)GPU服務(wù)器市場(chǎng)規(guī)模將達(dá)到64億美元。
目前,云端AI算力主要由三類AI加速器來(lái)提供:GPU,FPGA和AI ASIC芯片。這些加速器的優(yōu)點(diǎn)是性能非常高,缺點(diǎn)是價(jià)格也非常高。今天由于缺乏高效經(jīng)濟(jì)的AI加速器資源池化和虛擬化解決方案,絕大部分企業(yè)因無(wú)法構(gòu)建高效的加速器資源池,而不得不獨(dú)占式地使用這些昂貴的加速器資源,導(dǎo)致資源利用率低,成本高。據(jù)AWS在re:Invent 2018上提到的數(shù)據(jù),AWS上GPU利用率只有10%~30%。
傳統(tǒng)的GPU虛擬化技術(shù)只能對(duì)本地物理機(jī)上的GPU進(jìn)行虛擬切割,分配給不同的虛擬機(jī)使用,從而實(shí)現(xiàn)計(jì)算資源的靈活分配和利用。而隨著各個(gè)數(shù)據(jù)中心和企業(yè)的GPU服務(wù)器數(shù)量不斷增加,數(shù)據(jù)中心的GPU卡已經(jīng)到達(dá)幾千片的數(shù)量級(jí),傳統(tǒng)的單打獨(dú)斗式的GPU服務(wù)器的使用模式和管理模式都極大制約了各單位的AI應(yīng)用的開(kāi)發(fā)和部署的速度以及發(fā)展規(guī)模。市場(chǎng)急需一種AI計(jì)算平臺(tái),不僅可以支持本地GPU虛擬化,更重要的是還能打破資源調(diào)度的物理邊界, 讓用戶的AI應(yīng)用無(wú)需修改代碼即可透明地使用其他物理機(jī)上的遠(yuǎn)程GPU資源,從而實(shí)現(xiàn)數(shù)據(jù)中心級(jí)的GPU資源池化管理和彈性調(diào)度,極大地提升了整個(gè)GPU資源池的利用率和管理靈活度。
資源池化和虛擬化技術(shù)的目標(biāo)之一,就是提供與工作人員在物理機(jī)上使用時(shí)一樣的體驗(yàn)。目前趨動(dòng)科技的Orion 獵戶座計(jì)算平臺(tái)可以幫助每個(gè)用戶改進(jìn)AI加速器資源分配,支持用戶通過(guò)多個(gè)虛擬機(jī)或者容器來(lái)共享本地以及遠(yuǎn)程GPU資源,并且更靈活地部署AI應(yīng)用,實(shí)現(xiàn)更優(yōu)的生產(chǎn)力、安全性和IT可管理性。
用戶通過(guò)Orion 獵戶座計(jì)算平臺(tái)分配的GPU資源,無(wú)論是本地GPU資源,還是遠(yuǎn)程GPU資源,均是軟件定義、按需分配。這些資源不同于通過(guò)硬件虛擬化技術(shù)得到的資源,它們的分配和釋放都能在瞬間完成。而且,所有上述的資源分配和釋放都不需要虛擬機(jī)重啟。
值得一提的是,Orion 獵戶座計(jì)算平臺(tái)由全球虛擬化計(jì)算領(lǐng)域的技術(shù)領(lǐng)先者趨動(dòng)科技(VirtAITech.com)研發(fā),其核心團(tuán)隊(duì)均來(lái)自Dell EMC中國(guó)研究院,IBM中國(guó)研究院等頂級(jí)研究機(jī)構(gòu)。憑借創(chuàng)始團(tuán)隊(duì)在虛擬化領(lǐng)域十幾年的技術(shù)積累以及場(chǎng)景挖掘能力,趨動(dòng)科技成功打造了這套較為完整的AI加速器彈性資源池化解決方案。
人工智能是第四次工業(yè)革命的引領(lǐng)技術(shù),基于AI加速器的深度學(xué)習(xí)是人工智能發(fā)展的關(guān)鍵所在,無(wú)論之于國(guó)家還是企業(yè),都應(yīng)該通過(guò)技術(shù)創(chuàng)新,在這一次全世界范圍內(nèi)的浪潮中開(kāi)啟屬于自己的一片天地。趨動(dòng)科技通過(guò)打造Orion AI計(jì)算平臺(tái),不僅能夠幫助企業(yè)和開(kāi)發(fā)者更好地實(shí)現(xiàn)AI加速器資源的管理和調(diào)度,同時(shí)也開(kāi)創(chuàng)了“AI加速器資源池化+異構(gòu)加速器管理和調(diào)度”的新賽道。
責(zé)任編輯:tzh
-
加速器
+關(guān)注
關(guān)注
2文章
801瀏覽量
37918 -
gpu
+關(guān)注
關(guān)注
28文章
4744瀏覽量
129016 -
AI
+關(guān)注
關(guān)注
87文章
31025瀏覽量
269363
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論