0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

大算力芯片面臨的技術(shù)挑戰(zhàn)和解決策略

億鑄科技 ? 來源:億鑄科技 ? 2024-10-23 14:50 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

在灣芯展SEMiBAY2024《HBM與存儲器技術(shù)與應(yīng)用論壇》上,億鑄科技創(chuàng)始人、董事長兼CEO熊大鵬發(fā)表了題為《超越極限:大算力芯片面臨的技術(shù)挑戰(zhàn)和解決策略》的演講。

熊大鵬博士提出,在AI大模型技術(shù)的推動下,算力迎來需求拐點,硬件架構(gòu)將成為滿足算力需求的關(guān)鍵路徑之一,未來算力增長將以存儲單元為中心。

大模型時代的機(jī)遇與挑戰(zhàn)

在AI大模型時代,隨著數(shù)據(jù)、算力、參數(shù)量的不斷提升,模型能力顯著增強。熊大鵬博士指出,大模型已經(jīng)從量變逐漸演變?yōu)橘|(zhì)變,當(dāng)模型體量足夠大時,會出現(xiàn)類似人類“開悟”的涌現(xiàn)能力,大模型的推理能力將顯著提升。這一變化預(yù)示著AI應(yīng)用的最后一公里即將打通,業(yè)務(wù)落地將推動對AI計算能力的需求迎來拐點。

Omdia最新報告《云計算和數(shù)據(jù)中心人工智能處理器預(yù)測》顯示,用于云計算和數(shù)據(jù)中心人工智能的GPU和其他加速芯片的市場規(guī)模已從2022年的不到100億美元增長到2024年的780億美元,并預(yù)計到2029年將達(dá)到1510億美元。然而,2026年市場可能會出現(xiàn)一個明顯的拐點,增長動力將從技術(shù)采用轉(zhuǎn)向人工智能應(yīng)用需求的變化。

此外,IDC預(yù)測,未來的人工智能服務(wù)器將注重提高計算能力和處理效率(能效比),以適應(yīng)更復(fù)雜、更大規(guī)模的人工智能應(yīng)用。預(yù)計到2027年,用于推理的AI算力占比將達(dá)到72.6%,未來有望達(dá)到95%為推理,5%為訓(xùn)練。

應(yīng)用落地需要硬件架構(gòu)突破

然而,現(xiàn)有的芯片硬件性能提升速度已難以滿足算法模型急劇增長的算力需求。摩爾定律,這個曾經(jīng)指導(dǎo)半導(dǎo)體行業(yè)發(fā)展的黃金法則,如今正面臨前所未有的挑戰(zhàn)。國信證券經(jīng)濟(jì)研究所報告指出,大模型參數(shù)規(guī)模每18個月增長35倍,而摩爾定律下的芯片僅增長2倍。因此,探索和發(fā)展新的硬件架構(gòu)成為算力突破的關(guān)鍵路徑之一。

熊大鵬博士強調(diào),在現(xiàn)有的硬件架構(gòu)下,目前AI芯片面臨著“三堵墻”問題:存儲墻、能耗墻和編譯墻。存儲墻是指存儲器的數(shù)據(jù)訪問速度跟不上計算單元的數(shù)據(jù)處理速度,導(dǎo)致性能瓶頸的問題。

同時,由于存儲墻的存在則帶來了能耗墻和編譯墻的問題。能耗墻是指隨著芯片性能的提升,能耗和散熱問題成為限制進(jìn)一步性能提升的主要因素。編譯墻則是隨著AI模型的復(fù)雜性增加,編譯器需要處理的數(shù)據(jù)量和計算任務(wù)也急劇增加,這使得靜態(tài)編譯優(yōu)化變得非常困難,手動優(yōu)化又消耗了大量時間和成本。

存算一體開啟算力第二增長曲線

面對這一挑戰(zhàn),億鑄科技選擇創(chuàng)新,用“存算一體超異構(gòu)”架構(gòu)這一全新的芯片設(shè)計思路,極大地減少了數(shù)據(jù)搬運的延遲,提升了整體的計算效率和能效比。

熊大鵬博士指出,想要打破AI芯片“三堵墻”,就需要從算力的第一性原理(阿姆達(dá)爾定律)來著手,將數(shù)據(jù)搬運量大幅下降,使得F值接近于0,才能保證有效算力密度線性增長。目前業(yè)內(nèi)主要存在兩種解決方式:一種是存內(nèi)計算,另一種是近存計算。

存內(nèi)計算是通過將存儲和計算功能融合,減少數(shù)據(jù)搬運延遲,提升性能和能效。在理想狀態(tài)下,F(xiàn)=0,能夠?qū)崿F(xiàn)存儲與計算無縫融合。近存計算則是將存儲單元和計算單元通過先進(jìn)封裝集成在一起,增加訪存帶寬、減少數(shù)據(jù)搬移時延,以提升整體計算效率。

熊大鵬博士強調(diào),通過存算一體架構(gòu)等技術(shù),可以突破傳統(tǒng)計算模式的瓶頸,實現(xiàn)更高的有效算力,打破有效算力的天花板。未來,以算力單元為中心的時代即將結(jié)束,算力第二增長曲線將以存儲單元為中心。

熊大鵬博士表示,億鑄科技自成立以來,始終致力于通過存算一體,提供貢獻(xiàn)更具性價比、更高能效比、更大算力發(fā)展空間的AI大算力芯片發(fā)展新路徑。2023年3月,面對ChatGPT等大模型帶來的AI算力挑戰(zhàn),億鑄科技首次提出“存算一體超異構(gòu)”,為大模型時代AI大算力芯片發(fā)展提供全新思路。

未來,隨著AI技術(shù)的不斷進(jìn)步,算力的需求也在不斷增長。億鑄科技將通過創(chuàng)新的存算一體架構(gòu),為AI芯片的發(fā)展提供新的方向。在大模型時代,億鑄科技的技術(shù)和產(chǎn)品將為AI技術(shù)的發(fā)展提供強大的支持,推動整個行業(yè)向前發(fā)展。隨著億鑄科技技術(shù)的不斷成熟和應(yīng)用的不斷擴(kuò)展,我們有理由期待,AI芯片技術(shù)將迎來一個新的發(fā)展階段,為科技進(jìn)步做出更大的貢獻(xiàn)!

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 芯片
    +關(guān)注

    關(guān)注

    459

    文章

    52352

    瀏覽量

    438568
  • 算力
    +關(guān)注

    關(guān)注

    2

    文章

    1173

    瀏覽量

    15552
  • 億鑄科技
    +關(guān)注

    關(guān)注

    0

    文章

    30

    瀏覽量

    1506

原文標(biāo)題:億新聞 | 灣芯展演講回顧:以AI芯片架構(gòu)創(chuàng)新,迎接算力增長新拐點

文章出處:【微信號:億鑄科技,微信公眾號:億鑄科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    【「芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗】+NVlink技術(shù)從應(yīng)用到原理

    工作者身份的轉(zhuǎn)變期),便對這項技術(shù)深深癡迷,但當(dāng)時主流的RTX20系列,需要2080級別以上的才支持,鑒于個人實力,便將目光放在了9系卡上,這也就是「芯片 | 書中講的pascal
    發(fā)表于 06-18 19:31

    中國為何同時面臨過剩與短缺 ?

    中國為何同時面臨過剩與短缺 ?
    的頭像 發(fā)表于 04-24 15:02 ?460次閱讀
    中國為何同時<b class='flag-5'>面臨</b><b class='flag-5'>算</b><b class='flag-5'>力</b>過剩與短缺 ?

    芯片的生態(tài)突圍與革命

    電子發(fā)燒友網(wǎng)報道(文 / 李彎彎)大芯片,即具備強大計算能力的集成電路芯片,主要應(yīng)用于高性能計算(HPC)、人工智能(AI)、數(shù)據(jù)中心、自動駕駛等需要海量數(shù)據(jù)并行計算的場景。隨著
    的頭像 發(fā)表于 04-13 00:02 ?1607次閱讀

    DeepSeek對芯片的影響

    DeepSeek模型,尤其是其基于MOE(混合專家)架構(gòu)的DeepSeek-V3,對芯片的要求產(chǎn)生了深遠(yuǎn)影響。為了更好地理解這一影響,我們可以從幾個方面進(jìn)行分析。一.MOE架構(gòu)對
    的頭像 發(fā)表于 02-07 10:02 ?1068次閱讀
    DeepSeek對<b class='flag-5'>芯片</b><b class='flag-5'>算</b><b class='flag-5'>力</b>的影響

    中心的如何衡量?

    作為當(dāng)下科技發(fā)展的重要基礎(chǔ)設(shè)施,其的衡量關(guān)乎其能否高效支撐人工智能、大數(shù)據(jù)分析等智能應(yīng)用的運行。以下是對智中心算衡量的詳細(xì)闡述:一、
    的頭像 發(fā)表于 01-16 14:03 ?2143次閱讀
    <b class='flag-5'>算</b>智<b class='flag-5'>算</b>中心的<b class='flag-5'>算</b><b class='flag-5'>力</b>如何衡量?

    國內(nèi)汽車芯片面臨挑戰(zhàn)及發(fā)展建議

    摘 要 隨著汽車向電動化、智能化加速發(fā)展,汽車產(chǎn)業(yè)鏈、供應(yīng)鏈、價值鏈重塑,以芯片為主的零部件重要性日益凸顯。從技術(shù)角度看,大 智能駕駛和智能座艙計算
    的頭像 發(fā)表于 01-02 10:50 ?4843次閱讀
    國內(nèi)汽車<b class='flag-5'>芯片面臨</b>的<b class='flag-5'>挑戰(zhàn)</b>及發(fā)展建議

    億鑄科技熊大鵬探討AI大芯片挑戰(zhàn)與解決策略

    在SEMiBAY2024《HBM與存儲器技術(shù)與應(yīng)用論壇》上,億鑄科技的創(chuàng)始人、董事長兼CEO熊大鵬博士發(fā)表了題為《超越極限:大芯片技術(shù)
    的頭像 發(fā)表于 10-25 11:52 ?866次閱讀

    【「芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗】--全書概覽

    本帖最后由 1653149838.791300 于 2024-10-16 22:19 編輯 感謝平臺提供的書籍,厚厚的一本,很有分量,感謝作者的傾力付出成書。 本書主要講芯片CPU
    發(fā)表于 10-15 22:08

    MCT8316A-設(shè)計挑戰(zhàn)和解決方案應(yīng)用說明

    電子發(fā)燒友網(wǎng)站提供《MCT8316A-設(shè)計挑戰(zhàn)和解決方案應(yīng)用說明.pdf》資料免費下載
    發(fā)表于 09-13 09:52 ?0次下載
    MCT8316A-設(shè)計<b class='flag-5'>挑戰(zhàn)和解</b>決方案應(yīng)用說明

    MCF8316A-設(shè)計挑戰(zhàn)和解決方案應(yīng)用說明

    電子發(fā)燒友網(wǎng)站提供《MCF8316A-設(shè)計挑戰(zhàn)和解決方案應(yīng)用說明.pdf》資料免費下載
    發(fā)表于 09-13 09:51 ?4次下載
    MCF8316A-設(shè)計<b class='flag-5'>挑戰(zhàn)和解</b>決方案應(yīng)用說明

    名單公布!【書籍評測活動NO.43】 芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析

    ,在全球范圍內(nèi),對于推動科技進(jìn)步、經(jīng)濟(jì)發(fā)展及社會整體的運作具有至關(guān)重要的作用。隨著信息技術(shù)的高速發(fā)展,高性能計算(HPC)和人工智能(AI)等技術(shù)在多個領(lǐng)域的應(yīng)用變得日益廣泛,芯片
    發(fā)表于 09-02 10:09

    億鑄科技談大芯片面臨技術(shù)挑戰(zhàn)和解決策略

    隨著人工智能技術(shù)的飛速發(fā)展,已成為推動產(chǎn)業(yè)變革的關(guān)鍵力量,但大模型的快速發(fā)展,參數(shù)的爆發(fā),對于需求也提出了更高的要求,帶來了全新的
    的頭像 發(fā)表于 08-07 10:03 ?1180次閱讀

    FPGA設(shè)計面臨挑戰(zhàn)和解決方案

    設(shè)計可靠的可編程邏輯門陣列(FPGA)對于不容故障的系統(tǒng)來說是一項具有挑戰(zhàn)性的任務(wù)。本文介紹FPGA設(shè)計的復(fù)雜性,重點關(guān)注如何在提高可靠性的同時管理隨之帶來的功耗增加、設(shè)計復(fù)雜性和潛在性能影響的關(guān)鍵平衡問題。
    的頭像 發(fā)表于 08-06 11:33 ?923次閱讀

    浪潮下,國產(chǎn)先進(jìn)封裝技術(shù)取得了怎樣的成績?面臨怎樣的挑戰(zhàn)?

    電子發(fā)燒友網(wǎng)報道(文/吳子鵬)隨著摩爾定律速度放緩,近幾年先進(jìn)封裝技術(shù)成為大芯片發(fā)展的主要推動力。得益于人工智能應(yīng)用的
    的頭像 發(fā)表于 07-22 00:08 ?5274次閱讀
    大<b class='flag-5'>算</b><b class='flag-5'>力</b>浪潮下,國產(chǎn)先進(jìn)封裝<b class='flag-5'>技術(shù)</b>取得了怎樣的成績?<b class='flag-5'>面臨</b>怎樣的<b class='flag-5'>挑戰(zhàn)</b>?

    電子發(fā)燒友

    中國電子工程師最喜歡的網(wǎng)站

    • 2931785位工程師會員交流學(xué)習(xí)
    • 獲取您個性化的科技前沿技術(shù)信息
    • 參加活動獲取豐厚的禮品