0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線(xiàn)課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

億鑄科技熊大鵬探討AI大算力芯片的挑戰(zhàn)與解決策略

要長(zhǎng)高 ? 2024-10-25 11:52 ? 次閱讀

在SEMiBAY2024《HBM與存儲(chǔ)器技術(shù)與應(yīng)用論壇》上,億鑄科技的創(chuàng)始人、董事長(zhǎng)兼CEO熊大鵬博士發(fā)表了題為《超越極限:大算力芯片的技術(shù)挑戰(zhàn)與解決之道》的演講,深入剖析了AI大模型時(shí)代算力芯片所面臨的挑戰(zhàn)與機(jī)遇。

熊大鵬博士指出,AI大模型技術(shù)的快速發(fā)展推動(dòng)了算力需求的急劇增長(zhǎng)。隨著數(shù)據(jù)、算力和模型參數(shù)量的不斷提升,AI大模型的能力顯著增強(qiáng),甚至出現(xiàn)了類(lèi)似人類(lèi)的“涌現(xiàn)”能力,預(yù)示著AI應(yīng)用的廣泛落地即將到來(lái)。然而,現(xiàn)有的芯片硬件性能提升速度已難以滿(mǎn)足這種急劇增長(zhǎng)的算力需求,摩爾定律正面臨前所未有的挑戰(zhàn)。

據(jù)Omdia最新報(bào)告預(yù)測(cè),用于云計(jì)算和數(shù)據(jù)中心人工智能GPU和其他加速芯片市場(chǎng)規(guī)模將大幅增長(zhǎng),但到2026年市場(chǎng)可能會(huì)出現(xiàn)明顯拐點(diǎn),增長(zhǎng)動(dòng)力將從技術(shù)采用轉(zhuǎn)向人工智能應(yīng)用需求的變化。同時(shí),IDC預(yù)測(cè)未來(lái)人工智能服務(wù)器將更加注重提高計(jì)算能力和處理效率(能效比),以適應(yīng)更復(fù)雜、更大規(guī)模的人工智能應(yīng)用。

面對(duì)這一挑戰(zhàn),熊大鵬博士強(qiáng)調(diào),硬件架構(gòu)的創(chuàng)新成為突破算力瓶頸的關(guān)鍵路徑之一?,F(xiàn)有的AI芯片面臨著“三堵墻”問(wèn)題:存儲(chǔ)墻、能耗墻和編譯墻。存儲(chǔ)墻是指存儲(chǔ)器的數(shù)據(jù)訪(fǎng)問(wèn)速度跟不上計(jì)算單元的數(shù)據(jù)處理速度,導(dǎo)致性能瓶頸;能耗墻則是指隨著芯片性能的提升,能耗和散熱問(wèn)題成為限制性能進(jìn)一步提升的主要因素;編譯墻則是隨著AI模型的復(fù)雜性增加,編譯器需要處理的數(shù)據(jù)量和計(jì)算任務(wù)也急劇增加,使得優(yōu)化變得非常困難。

為了打破這三堵墻,億鑄科技選擇了創(chuàng)新之路。熊大鵬博士介紹,億鑄科技采用“存算一體超異構(gòu)”架構(gòu)這一全新的芯片設(shè)計(jì)思路,極大地減少了數(shù)據(jù)搬運(yùn)的延遲,提升了整體的計(jì)算效率和能效比。這種架構(gòu)通過(guò)將數(shù)據(jù)搬運(yùn)量大幅下降,使得有效算力密度能夠線(xiàn)性增長(zhǎng),從而突破傳統(tǒng)計(jì)算模式的瓶頸。

熊大鵬博士進(jìn)一步指出,未來(lái)算力增長(zhǎng)將以存儲(chǔ)單元為中心,而不是傳統(tǒng)的算力單元。通過(guò)存算一體架構(gòu)等技術(shù),可以打破有效算力的天花板,實(shí)現(xiàn)更高的有效算力。億鑄科技自成立以來(lái),始終致力于通過(guò)存算一體提供更具性?xún)r(jià)比、更高能效比、更大算力發(fā)展空間的AI大算力芯片發(fā)展新路徑。

展望未來(lái),熊大鵬博士表示,隨著AI技術(shù)的不斷進(jìn)步和算力需求的不斷增長(zhǎng),億鑄科技將通過(guò)創(chuàng)新的存算一體架構(gòu)為AI芯片的發(fā)展提供新的方向。在大模型時(shí)代,億鑄科技的技術(shù)和產(chǎn)品將為AI技術(shù)的發(fā)展提供強(qiáng)大的支持,推動(dòng)整個(gè)行業(yè)向前發(fā)展。我們有理由期待,隨著億鑄科技技術(shù)的不斷成熟和應(yīng)用的不斷擴(kuò)展,AI芯片技術(shù)將迎來(lái)一個(gè)新的發(fā)展階段,為科技進(jìn)步做出更大的貢獻(xiàn)。

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 芯片
    +關(guān)注

    關(guān)注

    455

    文章

    50812

    瀏覽量

    423604
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    30891

    瀏覽量

    269083
  • 算力
    +關(guān)注

    關(guān)注

    1

    文章

    977

    瀏覽量

    14810
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    企業(yè)AI租賃模式的好處

    構(gòu)建和維護(hù)一個(gè)高效、可擴(kuò)展的AI基礎(chǔ)設(shè)施,不僅需要巨額的初期投資,還涉及復(fù)雜的運(yùn)維管理和持續(xù)的技術(shù)升級(jí)。而AI
    的頭像 發(fā)表于 12-24 10:49 ?73次閱讀

    科技入選畢馬威中國(guó)“芯科技”新銳企業(yè)50強(qiáng)

    日前,畢馬威中國(guó)“芯科技”新銳企業(yè)50榜單正式揭曉,科技憑借在基于存一體的AI
    的頭像 發(fā)表于 11-18 10:15 ?242次閱讀

    企業(yè)AI租賃是什么

    企業(yè)AI租賃是指企業(yè)通過(guò)互聯(lián)網(wǎng)向?qū)I(yè)的提供商租用所需的計(jì)算資源,以滿(mǎn)足其AI應(yīng)用的需求。
    的頭像 發(fā)表于 11-14 09:30 ?590次閱讀

    AI科技日:圖靈AI芯片40天完成2791項(xiàng)驗(yàn)證

    驗(yàn)證。   隨著智能駕駛技術(shù)的不斷發(fā)展,對(duì)車(chē)端的高需求也日益增長(zhǎng)。為了應(yīng)對(duì)這一挑戰(zhàn),并解決公版芯片在通用
    的頭像 發(fā)表于 11-06 17:08 ?792次閱讀

    AI時(shí)代的重要性及現(xiàn)狀:平衡發(fā)展與優(yōu)化配置的挑戰(zhàn)

    AI時(shí)代,扮演著至關(guān)重要的角色。如果說(shuō)數(shù)據(jù)是AI大模型的“燃料”,那么則是其強(qiáng)大的“動(dòng)
    的頭像 發(fā)表于 11-04 11:45 ?426次閱讀

    AI芯片供電電源測(cè)試?yán)?費(fèi)思低壓大電流系列電子負(fù)載

    AI芯片作為驅(qū)動(dòng)復(fù)雜計(jì)算任務(wù)的核心引擎,其性能與穩(wěn)定性成為了決定應(yīng)用成敗的關(guān)鍵因素。而在這背后,供電電源的穩(wěn)定性和高效性則是保障AI
    的頭像 發(fā)表于 10-25 11:26 ?458次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>芯片</b>供電電源測(cè)試?yán)?費(fèi)思低壓大電流系列電子負(fù)載

    芯片面臨的技術(shù)挑戰(zhàn)和解決策略

    在灣芯展SEMiBAY2024《HBM與存儲(chǔ)器技術(shù)與應(yīng)用論壇》上,科技創(chuàng)始人、董事長(zhǎng)兼CEO發(fā)表了題為《超越極限:大
    的頭像 發(fā)表于 10-23 14:50 ?428次閱讀

    一體架構(gòu)創(chuàng)新助力國(guó)產(chǎn)大AI芯片騰飛

    在灣芯展SEMiBAY2024《AI芯片與高性能計(jì)算(HPC)應(yīng)用論壇》上,科技高級(jí)副總裁徐芳發(fā)表了題為《存一體架構(gòu)創(chuàng)新助力國(guó)產(chǎn)大
    的頭像 發(fā)表于 10-23 14:48 ?297次閱讀

    科技完成數(shù)元融資

    近日,AI芯片領(lǐng)域的佼佼者科技宣布成功完成數(shù)元融資,再次贏得了資本市場(chǎng)的青睞。
    的頭像 發(fā)表于 10-14 16:04 ?336次閱讀

    科技2024年完成數(shù)元融資

    和技術(shù)創(chuàng)新注入強(qiáng)勁動(dòng)力。 ? 科技始終專(zhuān)注于通過(guò)架構(gòu)創(chuàng)新實(shí)現(xiàn)打破和降低 “存儲(chǔ)墻”、“能耗墻”以及“編譯墻”,面向數(shù)據(jù)中心、AI云計(jì)算、中心側(cè)AI服務(wù)器等場(chǎng)景積極進(jìn)行產(chǎn)品開(kāi)發(fā),為業(yè)
    發(fā)表于 10-12 11:04 ?297次閱讀

    今日看點(diǎn)丨小自研芯片流片!是同行三倍;加拿大將對(duì)中國(guó)電動(dòng)汽車(chē)征收100%關(guān)稅

    1. 小自研芯片流片!是同行三倍 ? 據(jù)報(bào)道,小汽車(chē)自研的智能駕駛芯片已經(jīng)成功流片。有知
    發(fā)表于 08-27 11:22 ?1176次閱讀
    今日看點(diǎn)丨小<b class='flag-5'>鵬</b>自研<b class='flag-5'>芯片</b>流片!<b class='flag-5'>算</b><b class='flag-5'>力</b>是同行三倍;加拿大將對(duì)中國(guó)電動(dòng)汽車(chē)征收100%關(guān)稅

    安謀科技異構(gòu)組合,破局生成式AI挑戰(zhàn)

    近日,此芯科技集團(tuán)有限公司(以下簡(jiǎn)稱(chēng)“此芯科技”)AI PC戰(zhàn)略暨首款芯片發(fā)布會(huì)在上海舉行,正式推出了其首款專(zhuān)為AI PC打造的異構(gòu)高能效芯片產(chǎn)品——“此芯P1”。作為國(guó)產(chǎn)新一代
    的頭像 發(fā)表于 08-13 09:12 ?570次閱讀

    科技談大芯片面臨的技術(shù)挑戰(zhàn)和解決策略

    隨著人工智能技術(shù)的飛速發(fā)展,已成為推動(dòng)產(chǎn)業(yè)變革的關(guān)鍵力量,但大模型的快速發(fā)展,參數(shù)的爆發(fā),對(duì)于需求也提出了更高的要求,帶來(lái)了全新的挑戰(zhàn)
    的頭像 發(fā)表于 08-07 10:03 ?785次閱讀

    Sora需求引發(fā)業(yè)界對(duì)集結(jié)國(guó)內(nèi)AI企業(yè)探討

    據(jù)周鴻祎觀察,Sora視頻分析所需恐遠(yuǎn)超千億規(guī)模模型。因而,考慮到如今國(guó)內(nèi)芯片供應(yīng)受限,問(wèn)題至關(guān)重要。事實(shí)上,Meta已有約50萬(wàn)臺(tái)
    的頭像 發(fā)表于 02-25 10:03 ?588次閱讀

    “芯”勢(shì)力賦能AI未來(lái)

    對(duì)人類(lèi)生產(chǎn)的提升。如果說(shuō)大模型的任務(wù)是讓AI“夠聰明”的話(huà),那么的任務(wù)就是讓AI“夠便宜”,兩者共同發(fā)展直到
    的頭像 發(fā)表于 01-10 10:21 ?772次閱讀