0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

NVIDIA聯(lián)合構(gòu)建大規(guī)模模擬和訓(xùn)練 AI 模型

科技綠洲 ? 來源:NVIDIA英偉達(dá) ? 作者:NVIDIA英偉達(dá) ? 2022-06-14 14:56 ? 次閱讀

Champollion 超級計算機位于格勒諾布爾,由慧與和 NVIDIA 聯(lián)合構(gòu)建,它將為全球科學(xué)和工業(yè)領(lǐng)域的用戶創(chuàng)建大規(guī)模模擬和訓(xùn)練 AI 模型。

150 年前,一位法國語言學(xué)家破譯了羅塞塔石碑。150 年后的今天,慧與(Hewlett Packard Enterprise)啟用了能夠幫助客戶解決最棘手問題的工具。

Champollion AI 超級計算機的名稱來自讓-弗朗索瓦·商博良(Jean-Fran?ois Champollion,1790-1832)。這位法國學(xué)者破譯了古埃及象形文字,為研究古埃及文化奠定了基礎(chǔ)。與商博良一樣,這臺位于法國格勒諾布爾的龐大系統(tǒng)將在慧與卓越中心“破譯”海量數(shù)據(jù)集之中的規(guī)律。

這臺超級計算機將要負(fù)責(zé)的工作包括開發(fā)和訓(xùn)練 AI 模型,以及為科學(xué)和工業(yè)領(lǐng)域的用戶進(jìn)行高級模擬。

法國“人類的人工智能”(AI for Humanity)計劃的研究人員將使用 Champollion 超級計算機推動行業(yè)發(fā)展,并通過機器學(xué)習(xí)促進(jìn)經(jīng)濟增長,而他們只是該系統(tǒng)全球用戶群中的一員。

探秘 AI 超級計算機

Champollion 超級計算機將幫助慧與的客戶通過加速計算探尋新的機會。該系統(tǒng)基于由 20 個 HPE Apollo 6500 Gen10 Plus 系統(tǒng)組成的集群,來運行用于構(gòu)建和訓(xùn)練大規(guī)模 AI 模型的軟件?!?HPE 機器學(xué)習(xí)開發(fā)環(huán)境。

這臺超級計算機的部分算力由 160 個 NVIDIA A100 Tensor Core GPU 驅(qū)動,它們?yōu)榧禾峁?100 千萬億次級的峰值 AI 性能。這些 GPU 通過高吞吐量、低延遲的 NVIDIA Quantum InfiniBand 連接,實現(xiàn)了網(wǎng)絡(luò)計算。

該系統(tǒng)可以訪問 NVIDIA 的 HPC 和 AI 軟件在線目錄——NGC,包括編排 AI 部署的 NVIDIA Triton 推理服務(wù)器等工具,以及用于醫(yī)療行業(yè)的 NVIDIA Clara 等應(yīng)用框架。

用戶可以在 Champollion 超級計算機上對工作負(fù)載進(jìn)行測試并與基準(zhǔn)對標(biāo),以加快工作成果的投產(chǎn)速度。格勒諾布爾作為匯聚了能源、醫(yī)藥和高科技企業(yè)的研究中心,為這臺超級計算機提供了絕佳的“用武之地”。

無限可能

該系統(tǒng)可以幫助研究人員找到分子模式,用于開發(fā)療效更好的新藥物或療法,還可以用于構(gòu)建數(shù)字孿生,為倉庫或工廠規(guī)劃效率更高的物流路線。

凡是能夠善加運用高性能計算的行業(yè)和研究領(lǐng)域,都能通過這臺超級計算機開辟新的可能性。

審核編輯:彭靜
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • NVIDIA
    +關(guān)注

    關(guān)注

    14

    文章

    5063

    瀏覽量

    103448
  • 計算機
    +關(guān)注

    關(guān)注

    19

    文章

    7525

    瀏覽量

    88382
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    31338

    瀏覽量

    269747
  • 人工智能
    +關(guān)注

    關(guān)注

    1793

    文章

    47539

    瀏覽量

    239393
收藏 人收藏

    評論

    相關(guān)推薦

    小白學(xué)大模型構(gòu)建LLM的關(guān)鍵步驟

    隨著大規(guī)模語言模型(LLM)在性能、成本和應(yīng)用前景上的快速發(fā)展,越來越多的團隊開始探索如何自主訓(xùn)練LLM模型。然而,是否從零開始訓(xùn)練一個LL
    的頭像 發(fā)表于 01-09 12:12 ?307次閱讀
    小白學(xué)大<b class='flag-5'>模型</b>:<b class='flag-5'>構(gòu)建</b>LLM的關(guān)鍵步驟

    GPU是如何訓(xùn)練AI模型

    AI模型訓(xùn)練過程中,大量的計算工作集中在矩陣乘法、向量加法和激活函數(shù)等運算上。這些運算正是GPU所擅長的。接下來,AI部落小編帶您了解GPU是如何
    的頭像 發(fā)表于 12-19 17:54 ?189次閱讀

    NVIDIA與谷歌量子AI部門達(dá)成合作

    NVIDIA CUDA-Q 平臺使谷歌量子 AI 研究人員能夠為其量子計算機創(chuàng)建大規(guī)模的數(shù)字模型,以解決設(shè)計中面臨的各種挑戰(zhàn)
    的頭像 發(fā)表于 11-20 09:39 ?288次閱讀

    使用EMBark進(jìn)行大規(guī)模推薦系統(tǒng)訓(xùn)練Embedding加速

    推薦系統(tǒng)是互聯(lián)網(wǎng)行業(yè)的核心系統(tǒng),如何高效訓(xùn)練推薦系統(tǒng)是各公司關(guān)注的核心問題。目前,推薦系統(tǒng)基本上都是基于深度學(xué)習(xí)的大規(guī)模 ID 類模型,模型包含數(shù)十億甚至數(shù)百億級別的 ID 特征,典型
    的頭像 發(fā)表于 10-31 14:46 ?232次閱讀
    使用EMBark進(jìn)行<b class='flag-5'>大規(guī)模</b>推薦系統(tǒng)<b class='flag-5'>訓(xùn)練</b>Embedding加速

    NVIDIA 以太網(wǎng)加速 xAI 構(gòu)建的全球最大 AI 超級計算機

    、超大規(guī)模AI 工廠提供卓越性能而設(shè)計的 RDMA(Remote Direct Memory Access)網(wǎng)絡(luò)。 ? Colossus 是世界上最大的 AI 超級計算機,目前正被用于訓(xùn)練
    發(fā)表于 10-30 09:33 ?168次閱讀
    <b class='flag-5'>NVIDIA</b> 以太網(wǎng)加速 xAI <b class='flag-5'>構(gòu)建</b>的全球最大 <b class='flag-5'>AI</b> 超級計算機

    AI模型訓(xùn)練數(shù)據(jù)來源分析

    AI模型訓(xùn)練數(shù)據(jù)來源廣泛且多元化,這些數(shù)據(jù)源對于構(gòu)建和優(yōu)化AI模型至關(guān)重要。以下是對
    的頭像 發(fā)表于 10-23 15:32 ?902次閱讀

    如何訓(xùn)練自己的AI模型

    訓(xùn)練自己的AI模型是一個復(fù)雜且耗時的過程,涉及多個關(guān)鍵步驟。以下是一個詳細(xì)的訓(xùn)練流程: 一、明確需求和目標(biāo) 首先,需要明確自己的需求和目標(biāo)。不同的任務(wù)和應(yīng)用領(lǐng)域需要不同類型的
    的頭像 發(fā)表于 10-23 15:07 ?2407次閱讀

    NVIDIA NIM助力企業(yè)高效部署生成式AI模型

    Canonical、Nutanix 和 Red Hat 等廠商的開源 Kubernetes 平臺集成了 NVIDIA NIM,將允許用戶通過 API 調(diào)用來大規(guī)模地部署大語言模型。
    的頭像 發(fā)表于 10-10 09:49 ?423次閱讀

    NVIDIA Nemotron-4 340B模型幫助開發(fā)者生成合成訓(xùn)練數(shù)據(jù)

    Nemotron-4 340B 是針對 NVIDIA NeMo 和 NVIDIA TensorRT-LLM 優(yōu)化的模型系列,該系列包含最先進(jìn)的指導(dǎo)和獎勵模型,以及一個用于生成式
    的頭像 發(fā)表于 09-06 14:59 ?357次閱讀
    <b class='flag-5'>NVIDIA</b> Nemotron-4 340B<b class='flag-5'>模型</b>幫助開發(fā)者生成合成<b class='flag-5'>訓(xùn)練</b>數(shù)據(jù)

    NVIDIA攜手Meta推出AI服務(wù),為企業(yè)提供生成式AI服務(wù)

    NVIDIA近日宣布了一項重大舉措,正式推出NVIDIA AI Foundry服務(wù)與NVIDIA NIM(NVIDIA Inference
    的頭像 發(fā)表于 07-25 16:57 ?574次閱讀

    NVIDIA AI Foundry 為全球企業(yè)打造自定義 Llama 3.1 生成式 AI 模型

    借助 NVIDIA AI Foundry,企業(yè)和各國現(xiàn)在能夠使用自有數(shù)據(jù)與 Llama 3.1 405B 和 NVIDIA Nemotron 模型配對,來
    發(fā)表于 07-24 09:39 ?729次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Foundry 為全球企業(yè)打造自定義 Llama 3.1 生成式 <b class='flag-5'>AI</b> <b class='flag-5'>模型</b>

    大規(guī)模語言模型:從理論到實踐】- 每日進(jìn)步一點點

    非常推薦大家去讀 【大規(guī)模語言模型:從理論到實踐】這本書,系統(tǒng)的講解了大模型的前世今生,對各個環(huán)節(jié)知識進(jìn)行了普及。 今天跟我一起學(xué)習(xí)歸一化的部分。 大模型
    發(fā)表于 05-31 19:54

    進(jìn)一步解讀英偉達(dá) Blackwell 架構(gòu)、NVlink及GB200 超級芯片

    芯片的擴展,以滿足大規(guī)模AI模型訓(xùn)練和推理需求。 DGX SuperPOD配備智能控制平面,能夠監(jiān)控數(shù)千個數(shù)據(jù)點,確保系統(tǒng)連續(xù)運行、數(shù)據(jù)完整性,并自動重新配置集群以避免停機。每個DG
    發(fā)表于 05-13 17:16

    【大語言模型:原理與工程實踐】大語言模型的預(yù)訓(xùn)練

    增長。DeepMind在相關(guān)論文中指出,模型大小和訓(xùn)練Token數(shù)應(yīng)以相似速率增長,以確保最佳性能。因此,構(gòu)建模型規(guī)模相匹配的預(yù)
    發(fā)表于 05-07 17:10

    名單公布!【書籍評測活動NO.30】大規(guī)模語言模型:從理論到實踐

    等多種形式和任務(wù)。這個階段是從語言模型向?qū)υ?b class='flag-5'>模型轉(zhuǎn)變的關(guān)鍵,其核心難點在于如何構(gòu)建訓(xùn)練數(shù)據(jù),包括訓(xùn)練數(shù)據(jù)內(nèi)部多個任務(wù)之間的關(guān)系、
    發(fā)表于 03-11 15:16