0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

Zyphra推出Zamba2-mini 1.2B模型

CHANBAEK ? 來源:網(wǎng)絡(luò)整理 ? 作者:網(wǎng)絡(luò)整理 ? 2024-08-29 18:13 ? 次閱讀

近日,AI創(chuàng)新先鋒Zyphra公司科技界投下了一顆震撼彈,正式揭曉其最新力作——Zamba2-mini 1.2B模型。這款被譽為端側(cè)SOTA(State-Of-The-Art)級別的小語言模型,以其卓越的性能參數(shù)和極致的壓縮效率,成為了業(yè)界關(guān)注的焦點。

Zamba2-mini 1.2B攜帶著驚人的12億參數(shù)量,卻能在嚴(yán)苛的4bit量化條件下,將內(nèi)存占用控制在驚人的700MB以下,這一成就無疑是對AI模型輕量化探索的一次重大突破。其背后,是Zyphra團隊對模型架構(gòu)的深度優(yōu)化與大膽創(chuàng)新,成功融合了多種神經(jīng)網(wǎng)絡(luò)設(shè)計的精髓,既保留了大型密集變壓器模型的高質(zhì)量輸出特性,又實現(xiàn)了小模型難以企及的計算與內(nèi)存效率。

Zamba2-mini 1.2B的問世,不僅為端側(cè)設(shè)備提供了更為強大的智能支持,更預(yù)示著AI技術(shù)在實際應(yīng)用場景中的廣泛落地與深度融合。隨著這一技術(shù)的不斷成熟與普及,我們有理由相信,未來的端側(cè)AI將更加智能、高效,為人們的生活帶來更多便利與驚喜。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 變壓器
    +關(guān)注

    關(guān)注

    159

    文章

    7483

    瀏覽量

    135329
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    30898

    瀏覽量

    269128
  • 模型
    +關(guān)注

    關(guān)注

    1

    文章

    3244

    瀏覽量

    48847
收藏 人收藏

    評論

    相關(guān)推薦

    圖森未來發(fā)布“Ruyi”視頻大模型,Ruyi-Mini-7B版本現(xiàn)已開源

    重大獻禮。 尤為值得一提的是,圖森未來已經(jīng)將Ruyi的Mini-7B版本正式開源,用戶現(xiàn)在可以通過huggingface平臺輕松下載并使用這一強大的工具。這一舉措無疑將極大地推動視頻大模型在更廣泛領(lǐng)域的應(yīng)用和發(fā)展。 “Ruyi”模型
    的頭像 發(fā)表于 12-20 15:19 ?752次閱讀

    Meta推出Llama 3.3 70B,AI大模型競爭白熱化

    在今年的AI領(lǐng)域,Meta也不甘落后,推出了其壓軸之作——Llama 3.3 70B模型。與此同時,馬斯克的xAI也宣布其Grok模型從今天起全球免費開放(但存在一定的使用限制)。
    的頭像 發(fā)表于 12-09 14:50 ?380次閱讀

    智譜推出四個全新端側(cè)模型 攜英特爾按下AI普及加速鍵

    ,GLM-Edge-4B-chat、GLM-Edge-1.5B-chat為端側(cè)大語言模型,GLM-Edge-V-5B、GLM-Edge-V-2B
    的頭像 發(fā)表于 12-02 17:13 ?211次閱讀
    智譜<b class='flag-5'>推出</b>四個全新端側(cè)<b class='flag-5'>模型</b> 攜英特爾按下AI普及加速鍵

    PerfXCloud重磅升級 阿里開源最強視覺語言模型Qwen2-VL-7B強勢上線!

    體驗吧! Qwen2-VL Qwen2-VL模型由阿里推出,在描述圖像、理解視頻以及解答視覺相關(guān)問題等方面表現(xiàn)極為卓越。該模型提供
    的頭像 發(fā)表于 10-23 11:07 ?294次閱讀
    PerfXCloud重磅升級  阿里開源最強視覺語言<b class='flag-5'>模型</b>Qwen<b class='flag-5'>2-VL-7B</b>強勢上線!

    英偉達發(fā)布AI模型 Llama-3.1-Nemotron-51B AI模型

    英偉達公司宣布推出 Llama-3.1-Nemotron-51B AI 模型,這個AI大模型是源自 Meta 公司的 Llama-3.1-70B
    的頭像 發(fā)表于 09-26 17:30 ?609次閱讀

    馬斯克旗下xAI對Grok-2-mini進行速度升級

    科技巨頭馬斯克旗下的xAI公司近日宣布了一項重大進展,其熱門語言模型Grok-2-mini成功完成了速度升級。
    的頭像 發(fā)表于 08-27 15:28 ?384次閱讀

    如何通過JTAG這個接口給ESP32-LyraT-Mini_V1.2燒錄代固件?

    你好, 我發(fā)現(xiàn)ESP32-LyraT-Mini_V1.2開發(fā)板有JTAG接口引出,我們想通過這個開發(fā)板上面的ESP32-WROVER-B模塊做二次開發(fā)(UART0串口有它用),請問如何通過JTAG這個接口給板子燒錄代固件? 還有這部分的相關(guān)資料能推薦下嗎。
    發(fā)表于 07-02 07:05

    ESP32-LyraT-Mini_V1.2開發(fā)板運行ADF例程無法錄音要如何解決?

    ESP32-LyraT-Mini_V1.2開發(fā)板運行例程無法錄音 環(huán)境: IDF 4.3 , ADF Git master 和 esp-adf-release-v2.4 例程1: C
    發(fā)表于 06-28 07:56

    lyrat-mini-v1.2使用例程pipeline_wav_amr_sdcard錄音沒有聲音怎么解決?

    lyrat-mini-v1.2使用例程pipeline_wav_amr_sdcard錄音沒有聲音,SD卡中有文件,但是沒有聲音怎么解決啊
    發(fā)表于 06-28 06:43

    智譜AI發(fā)布全新多模態(tài)開源模型GLM-4-9B

    近日,智譜AI在人工智能領(lǐng)域取得重大突破,成功推出全新開源模型GLM-4-9B。這款模型以其卓越的多模態(tài)能力,再次刷新了業(yè)界對于大型語言模型
    的頭像 發(fā)表于 06-07 09:17 ?747次閱讀

    微軟發(fā)布視覺型AI新模型:Phi-3-vision

     據(jù)悉,Phi-3-vision 作為微軟 Phi-3 家族的首款多模態(tài)模型,繼承自 Phi-3-mini 的文本理解能力,兼具輕巧便攜特性,適用于移動平臺/嵌入式終端;模型參數(shù)規(guī)模達 42 億,遠超 Phi-3-
    的頭像 發(fā)表于 05-27 15:56 ?488次閱讀

    Bose Soundlink Mini2_維修記錄

    Bose Soundlink Mini2_維修記錄
    的頭像 發(fā)表于 04-14 10:11 ?3011次閱讀
    Bose Soundlink <b class='flag-5'>Mini2</b>_維修記錄

    微功率電壓參考LMx85-1.2 LM385B-1.2數(shù)據(jù)表

    電子發(fā)燒友網(wǎng)站提供《微功率電壓參考LMx85-1.2 LM385B-1.2數(shù)據(jù)表.pdf》資料免費下載
    發(fā)表于 04-01 15:41 ?0次下載
    微功率電壓參考LMx85-<b class='flag-5'>1.2</b> LM385<b class='flag-5'>B-1.2</b>數(shù)據(jù)表

    Meta發(fā)布開源大模型Code Llama 70B

    近日,Meta宣布推出了一款新的開源大模型Code Llama 70B,這是其“Code Llama家族中體量最大、性能最好的模型版本”。這款新模型
    的頭像 發(fā)表于 01-31 09:24 ?932次閱讀

    Stability AI推出迄今為止更小、更高效的1.6B語言模型

    Stability AI 宣布推出迄今為止最強大的小語言模型之一 Stable LM 2 1.6B。
    的頭像 發(fā)表于 01-23 10:11 ?811次閱讀
    Stability AI<b class='flag-5'>推出</b>迄今為止更小、更高效的1.6<b class='flag-5'>B</b>語言<b class='flag-5'>模型</b>