0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

Orange Pi 5的AI應(yīng)用怎么玩?看看AI-In-A-Box如何打造無需互聯(lián)網(wǎng)連接的“ChatGPT”

香橙派 ? 2023-09-27 14:12 ? 次閱讀

前不久,基于Orange Pi 5 Plus的DEEPX人工智能產(chǎn)品亮相世界人工智能硬件與邊緣AI峰會,讓大家感受到Orange Pi 5 Plus妥妥的AI硬實(shí)力。現(xiàn)在又發(fā)現(xiàn)了一個可以基于Orange Pi 5的AI應(yīng)用——AI-In-A-Box。

wKgaomUTx3eAcwXIAASGWkqWLk4856.png

據(jù)美通社報道,專注于人工智能的初創(chuàng)公司 Useful Sensors日前推出了全球首個低成本、現(xiàn)成的人工智能模塊AI-In-A-Box,無需互聯(lián)網(wǎng)連接,即可在本地與電子設(shè)備進(jìn)行直觀的自然語言交互。

該 AI-In-A-Box模塊可以回答、查詢和解決問題,其方式與基于大型語言模型(LLM)的著名AI工具類似。但由于采用了由Useful Sensors開發(fā)的壓縮和加速技術(shù),該模塊可在本地托管其LLM文件,從而使其低成本微處理器能夠理解并即時響應(yīng)口頭自然語言查詢或命令,而無需參考數(shù)據(jù)中心。

wKgaomUTx3eAWziDAAPTCddC2Ac470.png

由于與互聯(lián)網(wǎng)斷開,AI-In-A-Box模塊徹底消除了用戶對隱私、窺探或依賴第三方云服務(wù)等問題的擔(dān)憂,而這些問題在大型技術(shù)公司銷售的基于LLM的傳統(tǒng)人工智能產(chǎn)品和服務(wù)中十分普遍。

Useful Sensors公司創(chuàng)始人兼首席執(zhí)行官、前谷歌人工智能項(xiàng)目負(fù)責(zé)人Pete Warden說:“AI-In-A-Box模塊包含一個先進(jìn)的模型,用戶可以與之自然對話,無需網(wǎng)絡(luò)連接、賬戶或API調(diào)用。它提供了人工智能的優(yōu)勢——一種直觀、自然的方式來控制家中的設(shè)備、回答詢問或只是與一個自然語言化身聊天,而無需與大科技公司或云服務(wù)提供商共享任何對話或其他數(shù)據(jù)?!?/p>

wKgZomUTx3eARnaBAAOC7KCN_Zk464.png

除了可以像與人交談一樣與盒子進(jìn)行交互的對話式人工智能外,AI-In-A-Box還可以進(jìn)行多種語言之間的實(shí)時翻譯、顯示對話的實(shí)時字幕以及可以模擬USB鍵盤的語音工具。

AI-In-A-Box模塊現(xiàn)在可以在CrowdSupply購買,售價299美元。

高性能 NLP的本地實(shí)施

AI-In-A-Box模塊的自然語言處理(NLP)性能與著名的基于LLM的工具類似;它可以回答問題、講故事和笑話,并就藝術(shù)或體育等話題發(fā)表意見。但是,這些工具需要在數(shù)據(jù)中心托管高性能、高成本的GPU陣列,而AI-In-A-Box模塊只包含一個運(yùn)行所有AI操作的通用Arm? Cortex?-A級微處理器。

在定制的外殼內(nèi),你會發(fā)現(xiàn)其配備了功能強(qiáng)大的瑞芯微RK3588S SoC、8GB內(nèi)存、內(nèi)置顯示屏、揚(yáng)聲器和麥克風(fēng),使用的操作系統(tǒng)是Ubuntu 22.04。

看到這里,不得不說,香橙派的Orange Pi 5簡直就是為AI-In-A-Box量身定制的。Orange Pi 5采用了瑞芯微RK3588S新一代八核64位處理器,主頻最高可達(dá)2.4GHz,集成ARM Mali-G610 MP4 GPU,內(nèi)嵌高性能3D和2D圖像加速模塊,內(nèi)置高達(dá)6 Tops算力的AI加速器NPU,擁有4GB/8GB/16GB/32GB(LPDDR4/4x),具有高達(dá)8K顯示處理能力。

Orange Pi 5引用了相當(dāng)豐富的接口,包括HDMI輸出、GPIO接口、Type-C、M.2 PCIe2.0、千兆網(wǎng)口、2個USB2.0,1個USB3.0等;支持Ubuntu、Debian、Android12等操作系統(tǒng)。

wKgZomUTx3eAfGEUAAg8V7p9V_k580.png

Orange Pi 5默認(rèn)不帶WiFi和藍(lán)牙,雖然板上有一個以太網(wǎng)端口,但由于AI-In-A-Box不需要連接互聯(lián)網(wǎng),因此也無需連接。由于在本地提供所有數(shù)據(jù),可完全保護(hù)敏感對話或資料的隱私。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • Orange
    +關(guān)注

    關(guān)注

    0

    文章

    83

    瀏覽量

    19686
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    31338

    瀏覽量

    269746
  • 人工智能
    +關(guān)注

    關(guān)注

    1793

    文章

    47539

    瀏覽量

    239392
  • 開發(fā)板
    +關(guān)注

    關(guān)注

    25

    文章

    5101

    瀏覽量

    97884
收藏 人收藏

    評論

    相關(guān)推薦

    Orange Business推出Live Intelligence:簡化企業(yè)級生成式AI部署

    Orange Business近期正式推出了一項(xiàng)名為Live Intelligence的創(chuàng)新解決方案,旨在為企業(yè)和地方政府提供全面且便捷的生成式AI服務(wù)。該方案的推出,標(biāo)志著Orange
    的頭像 發(fā)表于 12-27 13:55 ?342次閱讀

    Coremail亮相世界互聯(lián)網(wǎng)大會“互聯(lián)網(wǎng)之光”博覽會

    11月19-22日,2024年世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會盛大舉辦,期間,“互聯(lián)網(wǎng)之光”博覽會“網(wǎng)絡(luò)安全”新產(chǎn)品新技術(shù)發(fā)布活動在烏鎮(zhèn)互聯(lián)網(wǎng)國際會展中心紅亭發(fā)布區(qū)舉行,Coremail亮相發(fā)布現(xiàn)場,展示郵箱
    的頭像 發(fā)表于 11-27 15:57 ?206次閱讀
    Coremail亮相世界<b class='flag-5'>互聯(lián)網(wǎng)</b>大會“<b class='flag-5'>互聯(lián)網(wǎng)</b>之光”博覽會

    湖北發(fā)布5G工業(yè)互聯(lián)網(wǎng)案例 十大標(biāo)桿應(yīng)用案例公布

    湖北正積極推動“5G+工業(yè)互聯(lián)網(wǎng)”規(guī)?;瘧?yīng)用。日前在“2024中國5G+工業(yè)互聯(lián)網(wǎng)大會”上發(fā)布了2024年湖北省5G+工業(yè)
    的頭像 發(fā)表于 11-20 17:26 ?729次閱讀

    NVIDIA NIM:打造AI領(lǐng)域的AI-in-a-Box,提高AI開發(fā)與部署的高效性

    據(jù)7月30日官方發(fā)布的資訊顯示,在全球備受矚目的計算機(jī)圖形學(xué)盛會——SIGGRAPH 2024上,NVIDIA公司對外展示了其在諸如渲染、仿真及生成式AI等前沿領(lǐng)域所取得的卓越成果,而其中最為引人注目的便是NVIDIA NIM平臺的全新升級。
    的頭像 發(fā)表于 07-30 16:27 ?718次閱讀

    【HZHY-AI300G智能盒試用連載體驗(yàn)】+ 智能工業(yè)互聯(lián)網(wǎng)網(wǎng)關(guān)

    的接口實(shí)現(xiàn)WiFi和RS485傳感器的連接工作,構(gòu)建工業(yè)互聯(lián)網(wǎng)關(guān)。 4)將所接收到的數(shù)據(jù)上傳至MQTT服務(wù)器平臺。 外觀介紹 周末就拿到了開發(fā)板,非常的小巧,和實(shí)驗(yàn)室使用的工業(yè)網(wǎng)關(guān)做個對比,簡直是美女
    發(fā)表于 07-15 19:49

    esp8266已連接到Wifi但無法連接互聯(lián)網(wǎng),為什么?

    首先,我想說對不起,如果我的帖子在錯誤的線程中。在那之后,我想問一個問題,我的 esp12E 已連接到 Wifi,但它無法連接互聯(lián)網(wǎng),即使 wifi 連接
    發(fā)表于 07-09 07:11

    AIGC遇上ChatGPT互聯(lián)網(wǎng)公司的創(chuàng)意設(shè)計師,還能做什么?

    隨著科技的日新月異,AIGC(人工智能生成內(nèi)容)和ChatGPTAI技術(shù)的涌現(xiàn),為互聯(lián)網(wǎng)公司的創(chuàng)意設(shè)計師們描繪了一幅充滿挑戰(zhàn)與機(jī)遇的新圖景。在這個數(shù)字化、智能化的新時代,創(chuàng)意設(shè)計師們不僅要保持敏銳
    的頭像 發(fā)表于 06-25 13:32 ?320次閱讀

    工業(yè)路由器:連接工業(yè)互聯(lián)網(wǎng)的工具

    工業(yè)互聯(lián)網(wǎng)正在逐漸成為工業(yè)發(fā)展的核心驅(qū)動力。工業(yè)路由器,作為連接工業(yè)互聯(lián)網(wǎng)的關(guān)鍵工具,無疑在其中扮演著舉足輕重的角色。接下來,我們將更深入地探討工業(yè)路由器的方方面面,以及它在工業(yè)互聯(lián)網(wǎng)
    的頭像 發(fā)表于 04-22 17:25 ?412次閱讀

    在FPGA設(shè)計中是否可以應(yīng)用ChatGPT生成想要的程序呢

    當(dāng)下AI人工智能崛起,很多開發(fā)領(lǐng)域都可看到ChatGPT的身影,F(xiàn)PGA設(shè)計中,是否也可以用ChatGPT輔助設(shè)計呢?
    發(fā)表于 03-28 23:41

    工業(yè)互聯(lián)網(wǎng)平臺是什么

    融合,以實(shí)現(xiàn)工業(yè)設(shè)備、系統(tǒng)和過程的智能化連接、管理和優(yōu)化。工業(yè)互聯(lián)網(wǎng)平臺的主要功能包括設(shè)備連接、數(shù)據(jù)采集、數(shù)據(jù)分析、應(yīng)用開發(fā)和工業(yè)應(yīng)用服務(wù)等。 工業(yè)互聯(lián)網(wǎng)平臺具有以下特點(diǎn): 1. 設(shè)備
    的頭像 發(fā)表于 03-28 15:38 ?1705次閱讀

    5G與AI如何共融共生?

    進(jìn)行深度學(xué)習(xí)和數(shù)據(jù)處理分析,而移動通信的本質(zhì)在于實(shí)現(xiàn)信息的無線傳輸和交換。AI的繁榮發(fā)展,離不開5G等通信技術(shù)所帶來的移動互聯(lián)網(wǎng)和數(shù)據(jù)業(yè)務(wù)的蓬勃發(fā)展。每天,移動網(wǎng)絡(luò)都會
    的頭像 發(fā)表于 03-21 08:22 ?551次閱讀
    <b class='flag-5'>5</b>G與<b class='flag-5'>AI</b>如何共融共生?

    AI+工業(yè)互聯(lián)網(wǎng)”賦能新型工業(yè)化的路徑分析

    橫看成嶺側(cè)成峰,探索“AI+工業(yè)互聯(lián)網(wǎng)”技術(shù)賦能新型工業(yè)化的路徑,還要從技術(shù)視角、產(chǎn)業(yè)視角、應(yīng)用視角綜合分析。
    的頭像 發(fā)表于 03-14 10:57 ?1242次閱讀

    【國產(chǎn)FPGA+OMAPL138開發(fā)板體驗(yàn)】(原創(chuàng))6.FPGA連接ChatGPT 4

    always @(posedge start) begin // 這里我們召喚一只“網(wǎng)絡(luò)飛鴿”,它會帶著用戶的問題穿越互聯(lián)網(wǎng)迷霧,直達(dá)ChatGPT4的神秘殿堂 NetworkPigeon
    發(fā)表于 02-14 21:58

    【先楫HPM5361EVK開發(fā)板試用體驗(yàn)】(原創(chuàng))5.手把手實(shí)戰(zhàn)AI機(jī)械臂

    HPM5361EVK開發(fā)板?,F(xiàn)在開始設(shè)計實(shí)戰(zhàn)AI機(jī)械臂的程序。 代碼結(jié)構(gòu) 由于編寫一個完整的用先楫HPM5361EVK開發(fā)板控制三組四自由度機(jī)械臂,并加入紅外線傳感器、機(jī)器視覺和ChatGPT連接
    發(fā)表于 02-06 10:28