動(dòng)態(tài)
-
發(fā)布了文章 2025-04-03 12:09
詳解 LLM 推理模型的現(xiàn)狀
2025年,如何提升大型語(yǔ)言模型(LLM)的推理能力成了最熱門(mén)的話題之一,大量?jī)?yōu)化推理能力的新策略開(kāi)始出現(xiàn),包括擴(kuò)展推理時(shí)間計(jì)算、運(yùn)用強(qiáng)化學(xué)習(xí)、開(kāi)展監(jiān)督微調(diào)和進(jìn)行提煉等。本文將深入探討LLM推理優(yōu)化領(lǐng)域的最新研究進(jìn)展,特別是自DeepSeekR1發(fā)布后興起的推理時(shí)間計(jì)算擴(kuò)展相關(guān)內(nèi)容。在LLM中實(shí)施和改進(jìn)推理簡(jiǎn)單來(lái)說(shuō),基于LLM的推理模型是一種旨在通過(guò)生成中間 -
發(fā)布了文章 2025-04-02 14:10
十大鮮為人知卻功能強(qiáng)大的機(jī)器學(xué)習(xí)模型
本文轉(zhuǎn)自:QuantML當(dāng)我們談?wù)摍C(jī)器學(xué)習(xí)時(shí),線性回歸、決策樹(shù)和神經(jīng)網(wǎng)絡(luò)這些常見(jiàn)的算法往往占據(jù)了主導(dǎo)地位。然而,除了這些眾所周知的模型之外,還存在一些鮮為人知但功能強(qiáng)大的算法,它們能夠以驚人的效率解決獨(dú)特的挑戰(zhàn)。在本文中,我們將探索一些最被低估但極具實(shí)用價(jià)值的機(jī)器學(xué)習(xí)算法,這些算法絕對(duì)值得你將其納入工具箱。1.變分自編碼器(VariationalAutoen438瀏覽量 -
發(fā)布了文章 2025-04-01 11:31
-
發(fā)布了文章 2025-03-31 12:05
一文讀懂,可重構(gòu)芯片為何是AI的完美搭檔
在當(dāng)今數(shù)字化時(shí)代,人工智能(AI)無(wú)疑是最為耀眼的技術(shù)領(lǐng)域之一。從早期簡(jiǎn)單的機(jī)器學(xué)習(xí)算法,到如今復(fù)雜的深度學(xué)習(xí)和Transformer模型,AI算法正以前所未有的速度快速發(fā)展。這種快速演進(jìn)使得AI在各個(gè)領(lǐng)域的應(yīng)用不斷拓展,從邊緣端的高能效場(chǎng)景,如智能安防攝像頭、智能家居設(shè)備,到云端的大算力場(chǎng)景,如數(shù)據(jù)中心的智能分析、智能語(yǔ)音交互系統(tǒng)等,AI正逐步滲透到人們生 -
發(fā)布了文章 2025-03-28 09:48
Imagination榮獲2025中國(guó)IC設(shè)計(jì)成就獎(jiǎng)—"年度產(chǎn)業(yè)杰出貢獻(xiàn)IP公司"
3月27日,,由AspenCore主辦的2025國(guó)際集成電路展覽會(huì)暨研討會(huì)(IICShanghai)在上海召開(kāi)。大會(huì)期間,2025年度“中國(guó)IC設(shè)計(jì)成就獎(jiǎng)”正式揭曉,Imagination憑借其領(lǐng)先的SoCIP技術(shù)與創(chuàng)新產(chǎn)品,榮獲2025年“年度產(chǎn)業(yè)杰出貢獻(xiàn)IP公司”大獎(jiǎng)。同時(shí),在EDA/IP與IC設(shè)計(jì)論壇,Imagination中國(guó)區(qū)應(yīng)用工程經(jīng)理孫千喆著重501瀏覽量 -
發(fā)布了文章 2025-03-27 11:06
Gartner發(fā)布2025年數(shù)據(jù)和分析重要趨勢(shì)
Gartner公司發(fā)布了2025年數(shù)據(jù)和分析(D&A)重要趨勢(shì),這些趨勢(shì)正在催生包括企業(yè)和人員管理等方面的一系列挑戰(zhàn)。Gartner研究副總裁孫鑫(JulianSun)表示:“D&A正在從一個(gè)小眾領(lǐng)域走向普及。與此同時(shí),D&A領(lǐng)導(dǎo)者面臨的壓力已經(jīng)從‘資源少,事情多’變成了‘資源多,事情更多’,而且這項(xiàng)工作由于風(fēng)險(xiǎn)的增加而變得更具挑戰(zhàn)性。不過(guò),有一些趨勢(shì)將幫助468瀏覽量 -
發(fā)布了文章 2025-03-24 11:45
算力網(wǎng),是否像電力網(wǎng)一樣?
編者按算力網(wǎng),是否像電力網(wǎng)一樣?算力網(wǎng),的確具有類似電力網(wǎng)一樣的“網(wǎng)”的特征,一邊鏈接智算中心(類似電廠),一邊觸達(dá)使用算力的企業(yè)(如使用電力的工廠、大樓、社區(qū)等)。但算力網(wǎng),又不能僅僅是這些。算力網(wǎng),其系統(tǒng)的復(fù)雜度和面對(duì)的挑戰(zhàn)要遠(yuǎn)大于電力網(wǎng)。如果僅考慮“網(wǎng)”的特征,僅關(guān)注算力調(diào)度,那么算力網(wǎng)的競(jìng)爭(zhēng)力有限,其業(yè)務(wù)(算力調(diào)度)會(huì)被產(chǎn)業(yè)鏈上下游吃掉。反過(guò)來(lái),要想 -
發(fā)布了文章 2025-03-21 13:00
Chiplet技術(shù)的優(yōu)勢(shì)和挑戰(zhàn)
本文由半導(dǎo)體產(chǎn)業(yè)縱橫(ID:ICVIEWS)綜合易于擴(kuò)展、更快創(chuàng)新和成本效益都是芯片組的優(yōu)勢(shì),同時(shí)還增強(qiáng)了功能和性能效率。根據(jù)IDTechEx最近發(fā)布的一份報(bào)告,利用小芯片技術(shù)可以實(shí)現(xiàn)更小、更緊湊且結(jié)構(gòu)簡(jiǎn)化的設(shè)計(jì),該報(bào)告與競(jìng)爭(zhēng)性半導(dǎo)體設(shè)計(jì)及其最適合的應(yīng)用相比,闡述了開(kāi)發(fā)小芯片技術(shù)的優(yōu)勢(shì)和挑戰(zhàn)。芯片組使GPU、CPU和IO組件小型化,以適應(yīng)越來(lái)越小巧緊湊的設(shè)備 -
發(fā)布了文章 2025-03-20 09:27
RISC-V Day Tokyo|RISC-V平臺(tái)集成Imagination GPU解決方案的探索分析
在2月27日舉辦的RISC-VDayTokyo2025Spring上,來(lái)自PLCT實(shí)驗(yàn)室的蒲鏡羽、高涵兩位工程師通過(guò)Poster分析了RISC-V在桌面生態(tài)中的發(fā)展與挑戰(zhàn),并且以Imagination為例做了深入研究。Imagination的前身是成立于1985年的VideoLogic公司,該公司于1999年更名為ImaginationTechnologie596瀏覽量 -
發(fā)布了文章 2025-03-19 11:39
GPU領(lǐng)域再迎重大創(chuàng)新——全新Imagination DXTP GPU將功效提升20%
功效比超高的DXTPGPUIP將為圖形計(jì)算與邊緣AI應(yīng)用SoC的創(chuàng)新提供巨大的幫助Imagination于不久前正式發(fā)布了DXTPGPUIP,這款新產(chǎn)品的亮點(diǎn)在于,在標(biāo)準(zhǔn)圖形工作負(fù)載下,其能效比(FPS/W)相比前代產(chǎn)品實(shí)現(xiàn)了高達(dá)20%的提升。作為GPUIP行業(yè)的領(lǐng)導(dǎo)者,截至2023年的公開(kāi)數(shù)據(jù)顯示,搭載ImaginationIP授權(quán)的芯片累計(jì)出貨量高達(dá)1638瀏覽量