新品| LLM630 Compute Kit，AI 大語言模型推理開發(fā)平臺(tái)

LLM630

LLM推理，視覺識(shí)別，可開發(fā)，靈活擴(kuò)展

LLM630 Compute Kit是一款 AI 大語言模型推理開發(fā)平臺(tái)，專為邊緣計(jì)算和智能交互應(yīng)用而設(shè)計(jì)。該套件的主板搭載愛芯AX630CSoC 處理器，集成了 3.2 TOPs@INT8 算力的高能效 NPU，提供強(qiáng)大的 AI 推理能力，能夠高效執(zhí)行復(fù)雜的視覺(CV)及大語言模型(LLM)任務(wù)，滿足各類智能應(yīng)用場景的需求。主板同時(shí)配備 JL2101-N040C 千兆網(wǎng)口芯片 和 ESP32-C6 無線通信芯片，支持 Wi-Fi 6@2.4G，用作設(shè)備的網(wǎng)卡，提供高速數(shù)據(jù)傳輸能力，實(shí)現(xiàn) Wi-Fi 和以太網(wǎng)的橋接功能。無論是通過有線連接進(jìn)行大規(guī)模數(shù)據(jù)交換，還是通過無線通信與遠(yuǎn)程服務(wù)器或其他智能設(shè)備進(jìn)行實(shí)時(shí)互動(dòng)，該平臺(tái)都能確保高效的數(shù)據(jù)交互。主板還集成了 SMA 天線接口，進(jìn)一步增強(qiáng)無線信號(hào)的穩(wěn)定性和傳輸距離，確保在復(fù)雜網(wǎng)絡(luò)環(huán)境下的穩(wěn)定通信。內(nèi)置 4GB LPDDR4 內(nèi)存（其中 2GB 供用戶使用，2GB 專用于硬件加速）和 32GB eMMC 存儲(chǔ)，支持多模型并行加載與推理，確保任務(wù)處理高效順暢。

與主板完美配合的底板大幅擴(kuò)展了LLM630 Compute Kit的功能性和適用性。它集成了BMI270 六軸傳感器，提供精準(zhǔn)的姿態(tài)感應(yīng)和運(yùn)動(dòng)檢測能力，適用于各種動(dòng)態(tài)應(yīng)用。內(nèi)置的NS4150B D類功放以及麥克風(fēng)和揚(yáng)聲器接口支持高質(zhì)量的語音輸入和音頻輸出，實(shí)現(xiàn)全雙工通信模式，增強(qiáng)用戶交互體驗(yàn)。底板還配備了雙 Grove 接口及LCD/DSI和CAM/CSI MIPI 接口，便于擴(kuò)展外設(shè)如顯示屏和攝像頭模塊。同時(shí)，底板集成了外接天線接口和一個(gè) 千兆網(wǎng)口，為設(shè)備提供靈活的網(wǎng)絡(luò)連接和增強(qiáng)的無線性能。此外，設(shè)備用戶按鍵實(shí)現(xiàn)開關(guān)機(jī)和模式切換等功能，提高了設(shè)備的易用性和交互性。

底板的充電芯片和預(yù)留電池插座支持自定義電池配置，確保平臺(tái)即使在無外部電源時(shí)也能長時(shí)間穩(wěn)定運(yùn)行。集成的電量檢測芯片實(shí)時(shí)監(jiān)控電池狀態(tài)。MicroSD 卡槽支持存儲(chǔ)擴(kuò)展，以及后續(xù)將支持的AI模型更新功能。雙Type-C接口不僅支持高效的數(shù)據(jù)傳輸，還提供OTG功能，使設(shè)備連接更加靈活，確保數(shù)據(jù)交換和設(shè)備連接的高效率。

LLM630 Compute Kit 支持StackFlow 框架，開發(fā)者可以輕松通過幾行代碼實(shí)現(xiàn)邊緣智能應(yīng)用，快速啟動(dòng)各種 AI 任務(wù)。平臺(tái)支持多種 AI 應(yīng)用，包括視覺識(shí)別，語音識(shí)別、文本轉(zhuǎn)語音和喚醒詞識(shí)別等功能，并支持分開調(diào)用或 pipeline 自動(dòng)流轉(zhuǎn)，方便開發(fā)。平臺(tái)還支持 Yolo11 DepthAnything 等視覺模型，InternVL2.5-1B 多模態(tài)大模型，Qwen2.5-0.5/1.5B Llama3.2-1B 大語言模型和 Whisper Melotts 語音模型等，支持熱更新，后續(xù)將持續(xù)支持最先進(jìn)的熱門的大模型，賦能智能識(shí)別與分析，確保平臺(tái)緊跟技術(shù)發(fā)展和社區(qū)潮流。

LLM630 Compute Kit 適用于長時(shí)間運(yùn)行的智能設(shè)備，廣泛應(yīng)用于安防監(jiān)控，智能銷售，智能農(nóng)業(yè)，智能家居控制，互動(dòng)機(jī)器人和教育等領(lǐng)域，能夠?yàn)檫吘壷悄軕?yīng)用提供強(qiáng)大的計(jì)算能力與靈活的擴(kuò)展性。