完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>
標(biāo)簽 > 模型
文章:2261個 瀏覽:48836次 帖子:150個
在NVIDIA TensorRT-LLM中啟用ReDrafter的一些變化
Recurrent Drafting (簡稱 ReDrafter) 是蘋果公司為大語言模型 (LLM) 推理開發(fā)并開源的一種新型推測解碼技術(shù),該技術(shù)現(xiàn)在...
NVIDIA TensorRT-LLM 是一個專為優(yōu)化大語言模型 (LLM) 推理而設(shè)計(jì)的庫。它提供了多種先進(jìn)的優(yōu)化技術(shù),包括自定義 Attention...
在以往的實(shí)踐中,當(dāng)我們針對 ultralytics 的 YOLO 模型開展訓(xùn)練工作時,可供選擇的計(jì)算設(shè)備通常局限于 CPU、mps 以及 cuda 這幾...
近期智譜發(fā)布了其最新的GLM-Edge系列SLM模型,GLM-Edge 系列是智譜在面向端側(cè)真實(shí)落地使用的場景下的一次嘗試,由兩種尺寸的大語言對話模型和...
MATLAB之基于模型設(shè)計(jì)助力智能家電可持續(xù)創(chuàng)新
? 隨著生活水平的提高,消費(fèi)者對智能家電的需求日益趨向智能化、個性化和綠色環(huán)保。智能家電企業(yè)面臨快速功能創(chuàng)新、多領(lǐng)域系統(tǒng)優(yōu)以及 AI 技術(shù)融合等研發(fā)挑戰(zhàn)...
AIGC系統(tǒng)中多個模型的切換調(diào)用方案探索
作者:京東科技 賈玉龍 1 背景 1.1 現(xiàn)狀 AIGC系統(tǒng)中多個模型的切換調(diào)用通常指的是在同一個AIGC系統(tǒng)或應(yīng)用中,可以根據(jù)不同的輸入條件或任務(wù)需求...
FP8數(shù)據(jù)格式在大型模型訓(xùn)練中的應(yīng)用
本文主要介紹了 FP8 數(shù)據(jù)格式在大型模型訓(xùn)練中的應(yīng)用、挑戰(zhàn)及最佳實(shí)踐,展示了 FP8 在提升訓(xùn)練速度和效率方面的潛力和實(shí)際效果。
2024-11-19 標(biāo)簽:NVIDIA數(shù)據(jù)格式模型 285 0
本文將分享 TensorRT-LLM 中低精度量化內(nèi)容,并從精度和速度角度對比 FP8 與 INT8。首先介紹性能,包括速度和精度。其次,介紹量化工具 ...
2024-11-19 標(biāo)簽:數(shù)據(jù)NVIDIA模型 297 0
基于NVIDIA TAO工具包訓(xùn)練汽車目標(biāo)識別模型
2023年以ChatGPT為代表的大語言模型橫空出世,它的出現(xiàn)標(biāo)志著自然語言處理領(lǐng)域取得了重大突破。它在文本生成、對話系統(tǒng)和語言理解等方面展現(xiàn)出了強(qiáng)大的...
PyTorch 是一個流行的開源機(jī)器學(xué)習(xí)庫,廣泛用于計(jì)算機(jī)視覺和自然語言處理等領(lǐng)域。它提供了強(qiáng)大的計(jì)算圖功能和動態(tài)圖特性,使得模型的構(gòu)建和調(diào)試變得更加靈...
2024-11-05 標(biāo)簽:模型機(jī)器學(xué)習(xí)自然語言處理 331 0
OpenCV4.8 Java SDK實(shí)現(xiàn)YOLOv5模型部署
Java 開發(fā)的IDE,推薦選擇IDEA這個,真的比較好用,我下載的是社區(qū)版,免費(fèi)可用。
流水線中Half-Buffer與Skid-Buffer的使用
引發(fā)上述問題的原因是未能及時阻塞之前的流水線,再深究其原因,是因?yàn)槠漭斎雮?cè)和輸出側(cè)的握手允許在相同時鐘周期完成,所以阻塞的信息沒有同步到上級。
GPU服務(wù)器AI網(wǎng)絡(luò)架構(gòu)設(shè)計(jì)
眾所周知,在大型模型訓(xùn)練中,通常采用每臺服務(wù)器配備多個GPU的集群架構(gòu)。在上一篇文章《高性能GPU服務(wù)器AI網(wǎng)絡(luò)架構(gòu)(上篇)》中,我們對GPU網(wǎng)絡(luò)中的核...
使用PyTorch在英特爾獨(dú)立顯卡上訓(xùn)練模型
《PyTorch 2.5重磅更新:性能優(yōu)化+新特性》中的一個新特性就是:正式支持在英特爾獨(dú)立顯卡上訓(xùn)練模型!
使用OpenVINO Model Server在哪吒開發(fā)板上部署模型
OpenVINO Model Server(OVMS)是一個高性能的模型部署系統(tǒng),使用C++實(shí)現(xiàn),并在Intel架構(gòu)上的部署進(jìn)行了優(yōu)化,使用OpenVI...
2023年以ChatGPT為代表的大語言模型橫空出世,它的出現(xiàn)標(biāo)志著自然語言處理領(lǐng)域取得了重大突破。它在文本生成、對話系統(tǒng)和語言理解等方面展現(xiàn)出了強(qiáng)大的...
2024-11-01 標(biāo)簽:人工智能模型目標(biāo)檢測 298 0
在《創(chuàng)新不止|Xpedition 2409版本新功能揭秘(上)》一文中,我們了解了Xpedition 2409版本的部分改進(jìn)部分。今天,我們繼續(xù)看Xpe...
近年來,隨著渦旋光束和空間結(jié)構(gòu)光場的發(fā)展或應(yīng)用,渦旋光束軌道角動量(OAM)的檢測成為重要的課題。本文基于空間光調(diào)制器(SLM)的全息衍射光柵方法,通過...
2024-10-31 標(biāo)簽:光柵空間光調(diào)制器模型 219 0
編輯推薦廠商產(chǎn)品技術(shù)軟件/工具OS/語言教程專題
電機(jī)控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動駕駛 | TI | 瑞薩電子 |
BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
無刷電機(jī) | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
直流電機(jī) | PID | MOSFET | 傳感器 | 人工智能 | 物聯(lián)網(wǎng) | NXP | 賽靈思 |
步進(jìn)電機(jī) | SPWM | 充電樁 | IPM | 機(jī)器視覺 | 無人機(jī) | 三菱電機(jī) | ST |
伺服電機(jī) | SVPWM | 光伏發(fā)電 | UPS | AR | 智能電網(wǎng) | 國民技術(shù) | Microchip |
Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
DuerOS | Brillo | Windows11 | HarmonyOS |