0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
电子发烧友
开通电子发烧友VIP会员 尊享10大特权
海量资料免费下载
精品直播免费看
优质内容免费畅学
课程9折专享价
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

如何選擇NVIDIA GPU和虛擬化軟件的組合方案呢?

麗臺科技 ? 來源:麗臺科技 ? 2024-01-12 09:26 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

NVIDIA vGPU 解決方案能夠?qū)?NVIDIA GPU 的強(qiáng)大功能帶入虛擬桌面、應(yīng)用程序和工作站,加速圖形和計算,使在家辦公或在任何地方工作的創(chuàng)意和技術(shù)專業(yè)人員能夠訪問虛擬化工作空間。

完整的 NVIDIA vGPU 方案包含 GPU 硬件與 vGPU 軟件,將 GPU 硬件與 vGPU 軟件解耦,能夠使用戶定期從軟件的更新功能中受益,同時也為 IT 部門提供靈活性,以滿足不同環(huán)境中用戶的特定需求。

那么,如何選擇能滿足用戶工作負(fù)載要求的 NVIDIA GPU 和虛擬化軟件的組合方案呢?

今天我們從 vGPU 的許可類型、軟件版本、支持的虛擬化平臺、物理 GPU、虛擬機(jī) vGPU Profile 等方面來介紹 NVIDIA vGPU 的軟硬件選型指南,以幫助您選擇適合不同工作負(fù)載的虛擬化軟件和 GPU。

vGPU 許可類型的選擇

NVIDIA vGPU 目前包含三種許可類型,NVIDIA Virtual Applications (vApp)、NVIDIA Virtual PC (vPC)、NVIDIA RTX Virtual Workstation (vWS),原來的 NVIDIA Virtual Compute Server (vCS) 已合并至 NVIDIA AI Enterprise (NVAIE) 軟件套件中,本篇不做闡述。那么,在日常的虛擬化應(yīng)用場景中,如何選擇合適的 vGPU 許可類型呢?

8a31d1de-b0de-11ee-8b88-92fbcf53809c.png

1

vApp

vApp 即 NVIDIA Virtual Applications(NVIDIA 虛擬應(yīng)用程序)軟件,專為應(yīng)用程序流和遠(yuǎn)程桌面共享主機(jī) (RDSH) 工作負(fù)載而設(shè)計。

2

vPC

vPC 即 NVIDIA Virtual PC(NVIDIA 虛擬 PC)軟件,專為知識工作者 VDI 工作負(fù)載而設(shè)計,可加速以下軟件和應(yīng)用設(shè)備:

辦公生產(chǎn)力應(yīng)用程序,如 Office 軟件

流媒體視頻

Windows OS

多顯示器

高分辨率顯示器

2D 電子設(shè)計自動化 (EDA)

3

vWS

vWS 即 NVIDIA RTX Virtual Workstation(NVIDIA RTX 虛擬工作站)軟件,專為專業(yè)圖形工作負(fù)載而設(shè)計,主要優(yōu)勢有:

RTX Enterprise 平臺驅(qū)動程序和 ISV 認(rèn)證

支持 NVIDIA CUDA 工具包和 OpenCL

更高分辨率的顯示器

具有大量幀緩沖區(qū)的 vGPU 配置文件

NVIDIA RTX vWS 可加速專業(yè)設(shè)計和可視化應(yīng)用程序,例如:

Autodesk Revit

Dassault Systèmes CATIA

Esri ArcGIS Pro

Maya

Petrel

SolidWorks

NVIDIA vGPU 軟件版本及虛擬化平臺的推薦

歷經(jīng)十多個版本的迭代更新,NVIDIA vGPU 軟件已經(jīng)更新到最新的 vGPU 16 版本,目前仍在支持的 NVIDIA vGPU 軟件版本有 NVIDIA vGPU software 13、NVIDIA vGPU software 15 和 NVIDIA vGPU software 16,其各自的 EOL 日期如下:

8a5252c4-b0de-11ee-8b88-92fbcf53809c.png

考慮到使用日期和售后支持等方面,推薦使用 vGPU 16 版本。

vGPU 16.2 版本為例,其支持的系統(tǒng)和虛擬化產(chǎn)品如下,用戶可以根據(jù)現(xiàn)有的虛擬化平臺進(jìn)行選擇。

1

Citrix Hypervisor

8a68b23a-b0de-11ee-8b88-92fbcf53809c.png

2

Microsoft Azure Stack HCI

8a84950e-b0de-11ee-8b88-92fbcf53809c.png

3

Microsoft Windows Server

8a9ee67a-b0de-11ee-8b88-92fbcf53809c.png

4

Red Hat Enterprise Linux with KVM

8ab1f102-b0de-11ee-8b88-92fbcf53809c.png

5

Ubuntu with KVM

8acf222c-b0de-11ee-8b88-92fbcf53809c.png

6

VMware vSphere ESXi

8ae77fe8-b0de-11ee-8b88-92fbcf53809c.png

7

Nutanix AHV

該版本的 NVIDIA vGPU 軟件支持 Nutanix AHV,基于 Linux 的 KVM 虛擬機(jī)管理程序。

未在列表中的、基于 Linux KVM 開發(fā)的其他虛擬化平臺,需要和廠家確認(rèn)是否兼容適配 vGPU 軟件,建議實際測試,確定是否可以正常安裝部署。

物理 GPU 的選擇

NVIDIA vGPU 軟件需要在具備 NVIDIA GPU 的平臺上運(yùn)行。vGPU 通過 time-sliced(時間切分)的方式共享 GPU 引擎,包括圖形 (3D)、視頻編解碼引擎等,不同的 GPU 具備不同的規(guī)格,用戶可以根據(jù)性能、成本和顯存大小等因素選擇合適的 GPU。針對目前仍在支持的虛擬 GPU 軟件版本,支持的 GPU 有:

8b0c27ee-b0de-11ee-8b88-92fbcf53809c.png

虛擬機(jī) vGPU Profile 的設(shè)定

可用 vGPU Profile 配置文件,在虛擬化教程 (2) 和虛擬化教程 (3)(點擊藍(lán)字跳轉(zhuǎn)鏈接)中介紹許可類型功能特性時有提到,包括 vWS 的 1Q/2Q/../48Q,vPC 的 1B/2B,vApp 的 1A/2A/.../48A,可以將其認(rèn)為是給虛擬機(jī)分配的顯存大小。

經(jīng)常有用戶會問:如何去設(shè)定 vGPU Profile,才能滿足當(dāng)下的應(yīng)用場景和業(yè)務(wù)需求?

大致可以從以下三個方向去考慮:

首先,反推法,先確定當(dāng)下使用的物理 GPU 型號,以及支持應(yīng)用程序或業(yè)務(wù)工作負(fù)載所需的顯存大小,再反推應(yīng)該怎么去劃分。

其次,可以根據(jù)具體的應(yīng)用程序官方推薦的 GPU 和顯存大小等硬件需求,來進(jìn)行具體的 vGPU 文件的配置和顯存劃分。

最后,正向測試方法,比如設(shè)計類用戶,考慮到運(yùn)行模型大小以及復(fù)雜程度的不同,可以通過一些工具或?qū)で蠊?yīng)商來評估,獲取 POC 支持和優(yōu)化的方案。這里推薦兩個工具:

1

GPU Profiler

GPU Profiler(GitHub 上可下載)是一個常用的工具,可以實時記錄資源在虛擬機(jī)上執(zhí)行工作負(fù)載時的利用率。該工具通常在 POC 階段幫助調(diào)整虛擬環(huán)境大小,以確保可接受的性能。GPU Profiler 可以在具有各種 vGPU 配置文件的單個 VM 上運(yùn)行。可以獲取以下指標(biāo):

幀緩沖區(qū)

GPU 利用率

vCPU

內(nèi)存

視頻編碼

視頻解碼

2

NVIDIA System Management Interface

(nvidia-smi)

NVIDIA vGPU Manager 提供監(jiān)控功能,讓 IT 人員能夠了解更好地利用 NVIDIA vGPU 的各種引擎的使用情況,包括幀緩沖區(qū)、編解碼器等都可以通過命令行界面工具 nvidia-smi 進(jìn)行監(jiān)控和記錄,并可以在 Hypervisor 或者虛擬機(jī)內(nèi)進(jìn)行訪問。

適用于虛擬化工作負(fù)載的

NVIDIA vGPU解決方案推薦

NVIDIA 虛擬化解決方案與基于當(dāng)下 NVIDIA Ada Lovelace 和 Ampere 架構(gòu)的 GPU 配合使用時,可提供巨大的靈活性和性能,從而滿足當(dāng)今企業(yè)不斷變化的工作負(fù)載和組織需求。

8b1e9096-b0de-11ee-8b88-92fbcf53809c.png

▲ 推薦 vGPU 軟硬件方案

如上圖所示,如果追求最大限度地提高虛擬化工作負(fù)載的性能,可以考慮性能優(yōu)化的 GPU,如果考慮到成本因素,則可以選擇高性價比的 GPU。

當(dāng)然,除了 NVIDIA 數(shù)據(jù)中心 GPU 之外,還有很多其他 GPU 支持虛擬化,包括 NVIDIA RTX 專業(yè)圖形卡系列:NVIDIA RTX 5880 Ada Generation、NVIDIA RTX 5000 Ada Generation、NVIDIA RTX A5000 等。用戶可根據(jù)具體需求,選擇合適的 GPU 和軟件。

*與NVIDIA產(chǎn)品相關(guān)的圖片或視頻(完整或部分)的版權(quán)均歸NVIDIA Corporation所有。







審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • NVIDIA
    +關(guān)注

    關(guān)注

    14

    文章

    5299

    瀏覽量

    106284
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    4937

    瀏覽量

    131165
  • 虛擬機(jī)
    +關(guān)注

    關(guān)注

    1

    文章

    966

    瀏覽量

    29313
  • OpenCL
    +關(guān)注

    關(guān)注

    2

    文章

    48

    瀏覽量

    33753
  • 多顯示器
    +關(guān)注

    關(guān)注

    0

    文章

    2

    瀏覽量

    1194

原文標(biāo)題:虛擬化教程 (4) : NVIDIA vGPU 軟硬件選型指南

文章出處:【微信號:Leadtek,微信公眾號:麗臺科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 0人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    NVIDIA GRID K1 K2桌面虛擬圖形加速解決方案

    三年質(zhì)保工業(yè)包裝現(xiàn)貨Nvidia GRID K1GPU 的數(shù)量和類型:4*Kepler CUDA核心數(shù)量:768 專用存儲器總?cè)萘浚?6GB DDR3用于虛擬功耗:139W熱設(shè)計功耗
    發(fā)表于 09-09 11:38

    【技術(shù)系列】淺談GPU虛擬技術(shù)(第一章)

    的基于GRID的各種方案,比如非常炫酷的Game Streaming。其實GRID 是大概念。代表了NvidiaGPU虛擬的一大摞產(chǎn)品。
    發(fā)表于 04-16 10:51

    NVIDIA-SMI:監(jiān)控GPU的絕佳起點

    nvidia-smi可執(zhí)行文件位于虛擬機(jī)管理程序上。如果在同一部署中您選擇GPU上使用作為傳遞,那么GPU正在尋找訪客上的
    發(fā)表于 09-04 15:18

    GPU虛擬在哪里發(fā)生?

    GPU虛擬在哪里發(fā)生?它是否出現(xiàn)在GRID卡中,然后將vGPU呈現(xiàn)給管理程序然后呈現(xiàn)給客戶?或者,GPU虛擬
    發(fā)表于 09-28 16:45

    可以使用適用于云計算中HPC的GPU虛擬

    是否可以使用NVidia虛擬在云計算中使用GPU虛擬創(chuàng)建VM群集?怎么能實現(xiàn)
    發(fā)表于 09-30 10:47

    使用NVIDIA GPU虛擬環(huán)境中進(jìn)行視頻轉(zhuǎn)碼

    ?310-Server-specifications-for-NVIDIA-NVENC-and-NVIDIA-CUDA-acceleration-with-Wowza-Transcoder你能告訴我決定:1. NVIDIA M6 SW許可僅以桌面
    發(fā)表于 09-30 10:43

    Nvidia GPU風(fēng)扇和電源顯示ERR怎么解決

    連接顯示屏的GPU的風(fēng)扇和電源報錯:解決方案自動風(fēng)扇控制在nvidia論壇有人給出了解決方案,即問題的根源可能是風(fēng)扇轉(zhuǎn)速不足使GPU過熱導(dǎo)致
    發(fā)表于 12-30 06:44

    在Ubuntu上使用Nvidia GPU訓(xùn)練模型

    問題最近在Ubuntu上使用Nvidia GPU訓(xùn)練模型的時候,沒有問題,過一會再訓(xùn)練出現(xiàn)非??D,使用nvidia-smi查看發(fā)現(xiàn),顯示GPU的風(fēng)扇和電源報錯:解決
    發(fā)表于 01-03 08:24

    NVIDIA虛擬GPU技術(shù):用戶將享受來自“云端”的極致體驗

    NVIDIA虛擬GPU業(yè)務(wù)副總裁John Fanelli近期接受采訪時介紹NVIDIA虛擬GPU
    的頭像 發(fā)表于 07-09 15:44 ?3113次閱讀

    基于NVIDIA虛擬GPU解決方案的桌面云正式商用

    日前,基于NVIDIA?虛擬GPU的深信服桌面云產(chǎn)品正式發(fā)布,這也是國內(nèi)首批基于KVM技術(shù)的vGPU虛擬桌面解決方案。
    的頭像 發(fā)表于 07-25 18:18 ?5730次閱讀

    NVIDIA虛擬GPU助力華辰重機(jī)直面挑戰(zhàn)

    華辰重機(jī)選用NVIDIA虛擬GPU解決方案,構(gòu)建了高效、集約、安全的數(shù)控機(jī)虛擬終端設(shè)計平臺,保
    的頭像 發(fā)表于 07-28 10:54 ?3860次閱讀

    湘電風(fēng)能為何選擇NVIDIA虛擬GPU解決方案?

    湘電風(fēng)能利用NVIDIA虛擬GPU技術(shù),保護(hù)核心關(guān)鍵數(shù)據(jù)資產(chǎn),進(jìn)一步提升工作效率。
    的頭像 發(fā)表于 09-11 17:06 ?4137次閱讀

    聯(lián)想使用NVIDIA CloudXR推出最新一體企業(yè)虛擬現(xiàn)實解決方案

    聯(lián)想最新的一體企業(yè)虛擬現(xiàn)實解決方案使用 NVIDIA CloudXR,為客戶提供高質(zhì)量、沉浸式、GPU 驅(qū)動的擴(kuò)展現(xiàn)實體驗。
    發(fā)表于 10-09 10:24 ?1438次閱讀

    NVIDIA虛擬GPU技術(shù)推動快速無痛的牙科治療

    NVIDIA虛擬GPU技術(shù)推動快速無痛的牙科治療
    的頭像 發(fā)表于 08-01 14:46 ?760次閱讀

    NVIDIA虛擬GPU 18.0版本的亮點

    NVIDIA 虛擬 GPU(vGPU)技術(shù)可在虛擬桌面基礎(chǔ)設(shè)施(VDI)中解鎖 AI 功能,使其比以往更加強(qiáng)大、用途更加廣泛。vGPU 通過為各種
    的頭像 發(fā)表于 04-07 11:28 ?667次閱讀

    電子發(fā)燒友

    中國電子工程師最喜歡的網(wǎng)站

    • 2931785位工程師會員交流學(xué)習(xí)
    • 獲取您個性化的科技前沿技術(shù)信息
    • 參加活動獲取豐厚的禮品