infiniband

端到端InfiniBand網(wǎng)絡(luò)解決LLM訓(xùn)練瓶頸

ChatGPT對技術(shù)的影響引發(fā)了對人工智能未來的預(yù)測，尤其是多模態(tài)技術(shù)的關(guān)注。OpenAI推出了具有突破性的多模態(tài)模型GPT-4，使各個領(lǐng)域取得了顯著的...

2024-10-23 標(biāo)簽：InfiniBandChatGPT大模型 401 0

InfiniBand與以太網(wǎng)的對比分析

InfiniBand作為一種先進(jìn)的內(nèi)網(wǎng)計算平臺，已成為驅(qū)動高性能計算（HPC）、人工智能（AI）以及超大規(guī)模云基礎(chǔ)設(shè)施演進(jìn)的核心力量，其展現(xiàn)出無可比擬的...

2024-10-23 標(biāo)簽：以太網(wǎng)計算機(jī)AI 499 0

主流GPU/TPU集群組網(wǎng)方案深度解析

用于連接 GPU 服務(wù)器中的 8 個 GPU 的 NVLink 交換機(jī)也可以用于構(gòu)建連接 GPU 服務(wù)器之間的交換網(wǎng)絡(luò)。Nvidia 在 2022 年的...

2024-04-24 標(biāo)簽：gpu服務(wù)器InfiniBand 930 0

深入探索InfiniBand網(wǎng)絡(luò)、HDR與IB技術(shù)

InfiniBand和以太網(wǎng)之間的延遲對比可以分為兩個主要組成部分。首先，在交換機(jī)層面上，以太網(wǎng)交換機(jī)在網(wǎng)絡(luò)傳輸模型中作為第2層設(shè)備運(yùn)行，通常采用MAC...

2024-04-19 標(biāo)簽：以太網(wǎng)數(shù)據(jù)中心人工智能 1632 0

GPU/TPU集群網(wǎng)絡(luò)組網(wǎng)間的連接方式

用于連接 GPU 服務(wù)器中的 8 個 GPU 的 NVLink 交換機(jī)也可以用于構(gòu)建連接 GPU 服務(wù)器之間的交換網(wǎng)絡(luò)。Nvidia 在 2022 年的...

2024-04-16 標(biāo)簽：以太網(wǎng)gpu服務(wù)器 796 0

一文詳解超算中的InfiniBand網(wǎng)絡(luò)、HDR與IB

InfiniBand技術(shù)被認(rèn)為是面向未來的高性能計算（HPC）標(biāo)準(zhǔn)，在超級計算機(jī)、存儲甚至LAN網(wǎng)絡(luò)的HPC連接方面享有很高的聲譽(yù)。

2024-04-16 標(biāo)簽：以太網(wǎng)cpu交換機(jī) 6646 0

GPU集群組網(wǎng)技術(shù)詳解

? 流行的GPU/TPU集群網(wǎng)絡(luò)組網(wǎng)，包括：NVLink、InfiniBand、ROCE以太網(wǎng)Fabric、DDC網(wǎng)絡(luò)方案等，深入了解它們之間的連接方...

2023-12-25 標(biāo)簽：gpu服務(wù)器InfiniBand 5208 0

InfiniBand的網(wǎng)絡(luò)架構(gòu)及技術(shù)原理解析

簡單來說，InfiniBand的誕生目的，就是為了取代PCI總線。它引入了RDMA協(xié)議，具有更低的延遲，更大的帶寬，更高的可靠性，可以實(shí)現(xiàn)更強(qiáng)大的I/O...

2023-08-09 標(biāo)簽：通信技術(shù)云計算pci總線 3527 0

InfiniBand到底是什么技術(shù)？它為什么會倍受追捧？

對于InfiniBand，很多搞數(shù)通的同學(xué)肯定不會陌生。

2023-08-01 標(biāo)簽：控制器以太網(wǎng)存儲器 1395 0