0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

OpenAI都想入局的GPU,究竟是個(gè)啥?

中興文檔 ? 來源:中興文檔 ? 2023-10-18 17:06 ? 次閱讀

隨著ChatGPT等大型語言模型掀起新一輪AI變革浪潮,AI芯片短缺問題日益嚴(yán)重。例如,ChatGPT開發(fā)商OpenAI高度依賴微軟提供的超級計(jì)算機(jī),使用了大量的英偉達(dá)GPU。近日有消息稱,OpenAI正在考慮自己制造或收購AI芯片,以解決其業(yè)務(wù)所需的高性能和低成本GPU的問題。 今天,咱們來聊聊,OpenAI都想入局的GPU,究竟是個(gè)啥?

GPU是什么

“一千款手機(jī),就有一千種游戲體驗(yàn)”,當(dāng)我們用不同的手機(jī)玩游戲時(shí),體驗(yàn)感是不同的,除了響應(yīng)速度,游戲畫面的精美度和立體度也是一個(gè)主要差異,造成這種差異的因素之一是手機(jī)GPU的性能不同。

GPU(Graphics Processing Unit,圖形處理器),作為一個(gè)隱藏在手機(jī)和電腦中的超能英雄,不僅是一個(gè)專業(yè)的畫家,能快速繪制出色彩繽紛的畫面,還是一個(gè)數(shù)學(xué)家,能快速完成大量的計(jì)算任務(wù)。 專業(yè)地說,GPU是一種專門用于處理圖形的處理器,它能夠以非常快的速度處理大量的圖形渲染計(jì)算,而且可以同時(shí)處理多個(gè)圖形任務(wù),從而大大提高計(jì)算機(jī)的計(jì)算和處理速度。

GPU最初是為圖形處理而設(shè)計(jì)的,但由于其并行處理和高速計(jì)算能力,GPU開始擔(dān)任更多、更重要的角色?,F(xiàn)在GPU被廣泛應(yīng)用于科學(xué)計(jì)算、機(jī)器學(xué)習(xí)、大數(shù)據(jù)分析等領(lǐng)域。

計(jì)算機(jī)中的GPU可以分為兩種,集成GPU和獨(dú)立GPU。

集成GPU,體積較小,一般內(nèi)置在計(jì)算機(jī)主板中,甚至可以集成到CPU中。集成GPU可以使計(jì)算機(jī)更輕巧,常見于筆記本電腦中。

獨(dú)立GPU,體積較大,是一個(gè)獨(dú)立的部件,在電腦主板上有專門的插口。其功能比集成GPU更強(qiáng)大,而且可以單獨(dú)升級(更換顯卡)。但是由于體積較大,會占用電腦更大的空間,且運(yùn)行時(shí)消耗更多能源并產(chǎn)生更多熱量。

有的筆記本電腦同時(shí)具有這兩種GPU,一般情況下使用集成GPU節(jié)省能源減少發(fā)熱,當(dāng)需要更強(qiáng)大的圖形處理性能時(shí),切換到獨(dú)立GPU執(zhí)行相關(guān)的任務(wù)。

GPU和CPU有哪些區(qū)別

看到這里,你是不是想到計(jì)算機(jī)中另一個(gè)重要角色CPU(Central Processing Unit,中央處理器),那么,GPU和CPU有什么區(qū)別呢?

雖然二者都能執(zhí)行計(jì)算任務(wù),但能力各有千秋。如果說CPU是一個(gè)知識淵博的數(shù)學(xué)教授,什么題目都會解,那么GPU就是一萬個(gè)小學(xué)生,人多力量大,在計(jì)算簡單數(shù)學(xué)題時(shí),速度極快。

事實(shí)上,在GPU出現(xiàn)之前,基本上所有的任務(wù)都是由CPU完成的。有了GPU之后,二者才進(jìn)行了分工,下表列出了二者的區(qū)別。

c72ffa58-6d8f-11ee-939d-92fbcf53809c.png

c73830f6-6d8f-11ee-939d-92fbcf53809c.png

通過以上對比,我們發(fā)現(xiàn),GPU和CPU各有所長。在手機(jī)和電腦中,二者相互配合,分工合作,共同為我們服務(wù)。

GPU更適合AI

通過前面的介紹,我們了解到GPU非常適合大規(guī)模并行計(jì)算。AI(Artificial Intelligence,人工智能)的訓(xùn)練剛好涉及大量的數(shù)據(jù)處理,特別是在深度學(xué)習(xí)領(lǐng)域,網(wǎng)絡(luò)模型通常有數(shù)百萬甚至數(shù)十億的參數(shù),需要通過大量的數(shù)據(jù)來進(jìn)行訓(xùn)練,以獲得準(zhǔn)確的預(yù)測,因此GPU非常適合AI算法。

并行處理能力

GPU具有大量的核心和高速內(nèi)存,擅長并行計(jì)算。在AI領(lǐng)域,計(jì)算量非常龐大,而GPU剛好適合這種場景。好比需要計(jì)算大量的簡單數(shù)學(xué)題時(shí),一萬名小學(xué)生肯定比一名教授更適合。

內(nèi)存帶寬更大

一些常見的GPU內(nèi)存帶寬約為400 GB/s,而最好的CPU內(nèi)存帶寬大約為50 GB/s,所以GPU可以更快地獲取和訪問內(nèi)存中的數(shù)據(jù)。在AI領(lǐng)域,數(shù)據(jù)一般占用大塊連續(xù)的內(nèi)存空間,顯然GPU更合適。

靈活性強(qiáng)

GPU支持使用CUDA、OpenCL等編程框架和語言,使得開發(fā)人員能夠輕松利用GPU的計(jì)算能力,高度自定義GPU的計(jì)算任務(wù),為不同類型的AI算法提供支持。

CUDA

Compute Unified Device Architecture,統(tǒng)一計(jì)算設(shè)備架構(gòu),一種由NVIDIA推出的通用并行計(jì)算架構(gòu),該架構(gòu)使GPU能夠解決復(fù)雜的計(jì)算問題。

OpenCL

Open Computing Language,開放設(shè)計(jì)語言,是一種開放的標(biāo)準(zhǔn),用于超級計(jì)算機(jī)、云服務(wù)器、個(gè)人計(jì)算機(jī)、移動設(shè)備和嵌入式平臺中各種加速器的跨平臺并行編程。

擴(kuò)展性強(qiáng)

隨著AI模型的復(fù)雜度增加和數(shù)據(jù)量的增長,我們可以通過增加更多的GPU來提高處理能力,就像是增加更多的小學(xué)生來進(jìn)行計(jì)算,使得系統(tǒng)能夠更好地應(yīng)對不斷增長的計(jì)算需求。

結(jié)束語

近日,中興通訊專為大規(guī)模模型訓(xùn)練而設(shè)計(jì)的旗艦GPU服務(wù)器R6900 G5亮相中國移動全球合作伙伴大會,以卓越的計(jì)算性能、高速網(wǎng)絡(luò)通信能力以及創(chuàng)新的能效表現(xiàn)為人工智能和深度學(xué)習(xí)等領(lǐng)域帶來全新的突破。 后續(xù)文檔君也會出更多相關(guān)圖文,大家敬請期待哦~~

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    4742

    瀏覽量

    128972
  • 人工智能
    +關(guān)注

    關(guān)注

    1791

    文章

    47314

    瀏覽量

    238648
  • OpenAI
    +關(guān)注

    關(guān)注

    9

    文章

    1092

    瀏覽量

    6541

原文標(biāo)題:OpenAI都想入局的GPU,究竟是個(gè)啥?

文章出處:【微信號:ztedoc,微信公眾號:中興文檔】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    嵌入式和人工智能究竟是什么關(guān)系?

    嵌入式和人工智能究竟是什么關(guān)系? 嵌入式系統(tǒng)是一種特殊的系統(tǒng),它通常被嵌入到其他設(shè)備或機(jī)器中,以實(shí)現(xiàn)特定功能。嵌入式系統(tǒng)具有非常強(qiáng)的適應(yīng)性和靈活性,能夠根據(jù)用戶需求進(jìn)行定制化設(shè)計(jì)。它廣泛應(yīng)用于各種
    發(fā)表于 11-14 16:39

    PCM1861 INT腳究竟是輸出還是輸入?

    這個(gè)芯片activce或是idle. 是否有人解釋下,INT腳究竟是輸出還是輸入。我希望是輸出,我需要讀取到是否有analog audio輸入的信息。 或者,輸入輸出與否還要靠其他什么地方設(shè)置? 盼望有人回復(fù)解答,不勝感激!
    發(fā)表于 10-29 07:29

    超高頻讀寫器究竟是什么,能做什么?一文讀懂!

    在物聯(lián)網(wǎng)技術(shù)日新月異的今天,超高頻讀寫器作為射頻識別(RFID)技術(shù)的重要組成部分,正逐漸滲透到我們生活的各個(gè)領(lǐng)域。那么,超高頻讀寫器究竟是什么?它又能做些什么呢?本文將帶您一探究竟。一、超高頻
    的頭像 發(fā)表于 10-23 14:41 ?222次閱讀
    超高頻讀寫器<b class='flag-5'>究竟是</b>什么,能做什么?一文讀懂!

    揭秘貼片功率電感發(fā)燙究竟是不是燒壞了

    電子發(fā)燒友網(wǎng)站提供《揭秘貼片功率電感發(fā)燙究竟是不是燒壞了.docx》資料免費(fèi)下載
    發(fā)表于 09-30 14:44 ?0次下載

    電感器線徑究竟是粗好還是細(xì)好

    電子發(fā)燒友網(wǎng)站提供《電感器線徑究竟是粗好還是細(xì)好.docx》資料免費(fèi)下載
    發(fā)表于 09-20 11:25 ?0次下載

    tas5756m使用GPIO口加內(nèi)部PLL產(chǎn)生MCLK的方法究竟是怎么樣的?

    tas5756m使用GPIO口加內(nèi)部PLL產(chǎn)生MCLK的方法究竟是怎么樣的?
    發(fā)表于 08-19 06:06

    請問cH340G的TX引腳電平究竟是3v還是5v?

    用CD34G來實(shí)現(xiàn)usb轉(zhuǎn)串口的時(shí)候,直接用usb口的5v作為電源電壓,它的tx引腳輸出的高電平究竟是5v還是3v,我實(shí)測是3v,但網(wǎng)上有的人是5v,想進(jìn)一步得到大家的確認(rèn)。
    發(fā)表于 05-14 08:15

    MPLS究竟是什么?

    由于運(yùn)行 MPLS 的服務(wù)提供商只查看數(shù)據(jù)包上的標(biāo)簽,而不是 IP 本身,這使得服務(wù)提供商能夠使用 MPLS 為此類客戶提供 VPN 服務(wù)。
    發(fā)表于 04-26 16:09 ?392次閱讀
    MPLS<b class='flag-5'>究竟是</b>什么?

    工業(yè)物聯(lián)網(wǎng)究竟是什么呢?它又有哪些作用呢?

    隨著科技的快速發(fā)展,物聯(lián)網(wǎng)技術(shù)已經(jīng)逐漸滲透到我們生活的各個(gè)角落,而 工業(yè)物聯(lián)網(wǎng)(IIoT) 更是引領(lǐng)著工業(yè)領(lǐng)域的數(shù)字化轉(zhuǎn)型。那么,工業(yè)物聯(lián)網(wǎng)究竟是什么呢?它又有哪些作用呢?本文將對此進(jìn)行深度解析
    的頭像 發(fā)表于 04-22 15:26 ?400次閱讀

    算力究竟是個(gè)

    計(jì)算系統(tǒng)的算力越高,處理數(shù)據(jù)的速度越快,能完成的任務(wù)也越復(fù)雜。
    的頭像 發(fā)表于 04-19 10:54 ?732次閱讀

    STM32擦除后數(shù)據(jù)究竟是0x00還是0xff ?

    STM32擦除后數(shù)據(jù)究竟是0x00還是0xff ,百度查了許多發(fā)現(xiàn)大多數(shù)都是0xff的多,都說SD卡(TF)儲存介質(zhì)是Flash 所以擦除后為0xff,但是我遇到了讀出來的數(shù)據(jù)是0x00的情況,為什么呢
    發(fā)表于 04-18 07:59

    MOSFET的柵源振蕩究竟是怎么來的?柵源振蕩的危害什么?如何抑制

    MOSFET的柵源振蕩究竟是怎么來的呢?柵源振蕩的危害什么?如何抑制或緩解柵源振蕩的現(xiàn)象呢? MOSFET(金屬-氧化物-半導(dǎo)體場效應(yīng)晶體管)的柵源振蕩是指在工作過程中,出現(xiàn)的柵極與源極之間產(chǎn)生
    的頭像 發(fā)表于 03-27 15:33 ?1726次閱讀

    吸塵器究竟是如何替你“吃灰”的【其利天下技術(shù)】

    如今,吸塵器已成為大多數(shù)人居家必備的小家電產(chǎn)品,那么說起吸塵器,你對吸塵器有了解多少呢?不知道大家知不知道它的原理是什么?今天我們就來說一說吸塵器究竟是如何替你“吃灰”的。
    的頭像 發(fā)表于 03-07 21:17 ?881次閱讀
    吸塵器<b class='flag-5'>究竟是</b>如何替你“吃灰”的【其利天下技術(shù)】

    什么是激光二極管 激光二極管的三個(gè)引腳究竟是什么呢?

    什么是激光二極管 激光二極管的三個(gè)引腳究竟是什么呢?它的三個(gè)引腳又是用什么材質(zhì)制作的呢? 激光二極管是一種常見的半導(dǎo)體激光器,是將電能轉(zhuǎn)化為激光光能的電子元件。它是由半導(dǎo)體材料構(gòu)成的,通常是將P型
    的頭像 發(fā)表于 01-26 15:17 ?3739次閱讀

    “其貌不揚(yáng)”的共模電感究竟是如何做到抗干擾的呢?

    “其貌不揚(yáng)”的共模電感究竟是如何做到抗干擾的呢? 共模電感是一種用于濾除電子設(shè)備中的共模噪聲的重要元件,其主要作用是提供阻抗來濾除共模干擾信號。盡管外觀看起來“其貌不揚(yáng)”,但共模電感通過其特殊
    的頭像 發(fā)表于 01-11 16:27 ?785次閱讀