0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
电子发烧友
开通电子发烧友VIP会员 尊享10大特权
海量资料免费下载
精品直播免费看
优质内容免费畅学
课程9折专享价
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

使用OpenVINO C# API輕松部署飛槳PP-OCRv4模型

jf_23871869 ? 來源:jf_23871869 ? 作者:jf_23871869 ? 2025-02-12 10:42 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

?作者:算力魔方創(chuàng)始人/英特爾創(chuàng)新大使劉力

《超4萬6千星的開源OCR黑馬登場,PaddleOCR憑什么脫穎而出?》收到了讀者熱烈反響,很多讀者提出:如何在C#中部署飛槳PP-OCRv4模型?本文從零開始詳細介紹整個過程。

一,什么是PP-OCRv4模型?

PP-OCRv4是PaddleOCR工具庫的PP-OCR系列模型中,當前性能最優(yōu)的一個。它在前代模型(PP-OCRv3)的基礎上,針對檢測模型和識別模型進行了數(shù)據(jù)、網(wǎng)絡結構、訓練策略等多個模塊的優(yōu)化,在多個應用場景中,精度均有大幅提升:

中文場景,相對于PP-OCRv3中文模型提升超4%;

英文數(shù)字場景,相比于PP-OCRv3英文模型提升6%;

多語言場景(支持韓語、日語、德語、法語等80種語言),平均準確率提升超8%。

PP-OCRv4是一個兩階段的OCR系統(tǒng),包含檢測模型、方向分類模型和識別模型。在檢測和識別之間添加方向分類模型,將不同角度的文本檢測框修正為水平檢測框,方便識別模型完成行文本識別。

wKgZO2esCdWAf_FZAAPTBDsBKkk891.png

為了適應服務器和邊緣端不同場景的部署需求,PP-OCRv4提供兩種推理模型權重版本:

邊緣端:中英文超輕量PP-OCRv4模型(16.1M) = 檢測模型(4.7M) + 識別模型(10.0M) + 方向分類模型(1.4M)。Hmean:62.24%;ACC:70.1%。

服務器端:中英文高精度PP-OCRv4 server模型(199.4M) = 檢測模型(110M) + 識別模型(88M) + 方向分類模型(1.4M)。Hmean:82.69%;ACC:84.04%。

PP-OCRv4模型詳述鏈接:

https://github.com/PaddlePaddle/PaddleOCR/blob/main/docs/ppocr/blog/PP-OCRv4_introduction.md

PP-OCRv4模型的卓越性能使其在多個領域具有廣泛的應用前景,如文檔掃描、文字提取、智能表單填寫、物流信息追蹤、文檔自動化處理、智能服務窗口、文獻資料整理等等。本文將介紹使用OpenVINO?工具套件在英特爾? CPU、獨立顯卡、集成顯卡和NPU上優(yōu)化并部署飛槳PP-OCRv4模型。

PP-OCRv4模型在飛槳AIStudio星河社區(qū)范例項目:

https://aistudio.baidu.com/projectdetail/8770259

二,OpenVINO C# API簡介

OpenVINO C# API是一個開源的 OpenVINO? 的 .Net wrapper(包裝器)項目,它基于最新的OpenVINO? Runtime庫開發(fā),通過調用官方的OpenVINO? C API ,允許開發(fā)者在 .NET 和 .NET Framework 環(huán)境中使用 C# 語言調用AI模型,并實現(xiàn)AI模型在英特爾? CPU、獨立顯卡、集成顯卡、NPU上的推理加速。

OpenVINO? C# API的GitHub倉:https://github.com/guojin-yan/OpenVINO-CSharp-API

三,搭建開發(fā)環(huán)境

請參考《C# 中使用OpenVINO?:輕松集成AI模型!》完成OpenVINO C# API開發(fā)環(huán)境搭建。然后,啟動“命令提示符”,用命令創(chuàng)建“ppocrv4_csharp”推理項目:

dotnet new console -o ppocrv4_csharp -f net8.0
wKgZO2esChGAbzZEAAIUyDTmrzc537.png

然后,進入“ppocrv4_csharp”目錄,使用NuGet安裝OpenVINO? C# API,命令如下:

dotnet add package OpenVINO.CSharp.API
dotnet add package OpenVINO.runtime.win
dotnet add package OpenVINO.CSharp.API.Extensions.OpenCvSharp
dotnet add package OpenVINO.CSharp.API.Extensions.PaddleOCR

最后,安裝OpenCvSharp 4.9.0版:???????

dotnet add package OpenCvSharp4 --version 4.9.0.20240103
dotnet add package OpenCvSharp4.runtime.win --version 4.9.0.20240103

完成PP-OCRv4的OpenVINO? C# API開發(fā)環(huán)境安裝。

四,編寫C# PP-OCRv4推理程序

PP-OCRv4的范例程序已開源,請將代碼倉克隆到本地:

git clone https://github.com/guojin-yan/PaddleOCR-OpenVINO-CSharp.git

接著,將“在線模型識別”范例代碼拷貝到Program.cs中,如下所示:

wKgZPGesCkKACbZhAAHyLiI9v9o001.png

最后,在VS Code中運行該代碼,結果如下所示:

wKgZO2esCliAYVgqAASLSmH3jxM860.png

五,總結

使用OpenVINO C# API可以直接讀入PP-OCRv4模型(無需轉換),并能方便快捷的將PP-OCRv4模型用C#代碼部署在英特爾? CPU、獨立顯卡、集成顯卡、NPU等硬件上。

如果你有更好的文章,歡迎投稿!

稿件接收郵箱:nami.liu@pasuntech.com

更多精彩內容請關注“算力魔方?”!

?審核編輯 黃宇

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • API
    API
    +關注

    關注

    2

    文章

    1600

    瀏覽量

    63965
  • AI
    AI
    +關注

    關注

    88

    文章

    35041

    瀏覽量

    279131
  • OpenVINO
    +關注

    關注

    0

    文章

    115

    瀏覽量

    479
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    C#集成OpenVINO?:簡化AI模型部署

    在開源測控、機器視覺、數(shù)采與分析三大領域中,如何快速將AI模型集成到應用程序中, 實現(xiàn)AI賦能和應用增值? 最容易的方式是:在C#中,使用 OpenVINO工具套件 集成AI模型。 1
    的頭像 發(fā)表于 02-17 10:03 ?1955次閱讀
    <b class='flag-5'>C#</b>集成<b class='flag-5'>OpenVINO</b>?:簡化AI<b class='flag-5'>模型</b><b class='flag-5'>部署</b>

    基于C#OpenVINO?在英特爾獨立顯卡上部署PP-TinyPose模型

    OpenVINO,將 PP-TinyPose 模型部署在英特爾獨立顯卡上。 1.1 PP-TinyPose
    的頭像 發(fā)表于 11-18 18:27 ?3011次閱讀

    如何使用OpenVINO C++ API部署FastSAM模型

    象的位置和邊界。本文將介紹如何使用 OpenVINO C++ API 部署 FastSAM 模型,以實現(xiàn)快速高效的語義分割。在前文中我們發(fā)表
    的頭像 發(fā)表于 11-17 09:53 ?1357次閱讀
    如何使用<b class='flag-5'>OpenVINO</b> <b class='flag-5'>C</b>++ <b class='flag-5'>API</b><b class='flag-5'>部署</b>FastSAM<b class='flag-5'>模型</b>

    如何在C#部署PP-OCRv4模型

    《超4萬6千星的開源OCR黑馬登場,PaddleOCR憑什么脫穎而出?》收到了讀者熱烈反響c,很多讀者提出:如何在C#部署
    的頭像 發(fā)表于 02-17 10:58 ?1759次閱讀
    如何在<b class='flag-5'>C#</b>中<b class='flag-5'>部署</b><b class='flag-5'>飛</b><b class='flag-5'>槳</b><b class='flag-5'>PP-OCRv4</b><b class='flag-5'>模型</b>

    使用OpenVINO優(yōu)化并部署PP-OCRv4模型

    算法,在此基礎上打造產(chǎn)業(yè)級特色模型系列:PP-OCR、PP-Structure和PP-ChatOCR,打通了模型訓練、壓縮、
    的頭像 發(fā)表于 04-03 18:07 ?1191次閱讀
    使用<b class='flag-5'>OpenVINO</b>優(yōu)化并<b class='flag-5'>部署</b><b class='flag-5'>飛</b><b class='flag-5'>槳</b><b class='flag-5'>PP-OCRv4</b><b class='flag-5'>模型</b>

    使用OpenVINO? 部署PaddleSeg模型庫中的DeepLabV3+模型

    ? ? ? 01 概述 ? ? 本文是OpenVINO 工具套件與百度PaddlePaddle模型轉換/部署系列的第二部。這篇文章專注于
    的頭像 發(fā)表于 11-22 14:58 ?1w次閱讀
    使用<b class='flag-5'>OpenVINO</b>? <b class='flag-5'>部署</b>PaddleSeg<b class='flag-5'>模型</b>庫中的DeepLabV3+<b class='flag-5'>模型</b>

    基于OpenVINO? 的版 PGNet 實現(xiàn)案例

    OpenVINO 工具套件2022.1版于2022年3月22日正式發(fā)布,根據(jù)官宣OpenVINO 迎來迄今為止最重大更新,2022.1新特性搶先看!,OpenVINO 2022.1將是迄今為止最大變化的版本,并可以直接支持讀取
    發(fā)表于 08-04 16:25 ?1085次閱讀

    基于OpenVINO?工具包部署PP-Human的全流程

    PP-Human是目標檢測套件PaddleDetection中開源的實時行人分析工具,提供了五大異常行為識別和四大產(chǎn)業(yè)級功能:人體屬性分析、人流計數(shù)、跨鏡ReID
    的頭像 發(fā)表于 02-23 18:03 ?1221次閱讀

    OpenVINO? C# API詳解與演示

    OpenVINO C# API 支持 NuGet 程序包安裝方式,這與 OpenVINO C++ 庫的安裝過程相比,更加簡單。如果使用 Vi
    的頭像 發(fā)表于 10-13 16:39 ?1216次閱讀
    <b class='flag-5'>OpenVINO</b>?  <b class='flag-5'>C#</b> <b class='flag-5'>API</b>詳解與演示

    基于OpenVINO Python API部署RT-DETR模型

    平臺實現(xiàn) OpenVINO 部署 RT-DETR 模型實現(xiàn)深度學習推理加速, 在本文中,我們將首先介紹基于 OpenVINO Python API
    的頭像 發(fā)表于 10-20 11:15 ?1616次閱讀
    基于<b class='flag-5'>OpenVINO</b> Python <b class='flag-5'>API</b><b class='flag-5'>部署</b>RT-DETR<b class='flag-5'>模型</b>

    基于OpenVINO C++ API部署RT-DETR模型

    應用中,我們?yōu)榱伺c當前軟件平臺集成更多會采用 C++ 平臺,因此在本文中,我們將基于 OpenVINO C++ API 向大家展示了不包含后處理的 RT-DETR
    的頭像 發(fā)表于 11-03 14:30 ?1578次閱讀
    基于<b class='flag-5'>OpenVINO</b> <b class='flag-5'>C</b>++ <b class='flag-5'>API</b><b class='flag-5'>部署</b>RT-DETR<b class='flag-5'>模型</b>

    基于OpenVINO C# API部署RT-DETR模型

    C# 環(huán)境下使用該模型應用到工業(yè)檢測中,因此在本文中,我們將向大家展示使用 OpenVINO Csharp API 部署 RT-DETR
    的頭像 發(fā)表于 11-10 16:59 ?1189次閱讀
    基于<b class='flag-5'>OpenVINO</b> <b class='flag-5'>C#</b> <b class='flag-5'>API</b><b class='flag-5'>部署</b>RT-DETR<b class='flag-5'>模型</b>

    OpenVINO C# API在intel平臺部署YOLOv10目標檢測模型

    模型設計策略,從效率和精度兩個角度對YOLOs的各個組成部分進行了全面優(yōu)化,大大降低了計算開銷,增強了性能。在本文中,我們將結合OpenVINO C# API使用最新發(fā)布的
    的頭像 發(fā)表于 06-21 09:23 ?2002次閱讀
    用<b class='flag-5'>OpenVINO</b> <b class='flag-5'>C#</b> <b class='flag-5'>API</b>在intel平臺<b class='flag-5'>部署</b>YOLOv10目標檢測<b class='flag-5'>模型</b>

    C#中使用OpenVINO?:輕松集成AI模型!

    與分析三大領域中,如何快速將AI模型集成到應用程序中,實現(xiàn)AI賦能和應用增值?最容易的方式是:在C#中,使用OpenVINO?工具套件集成AI模型。 一,什么是
    的頭像 發(fā)表于 02-07 14:05 ?834次閱讀
    <b class='flag-5'>C#</b>中使用<b class='flag-5'>OpenVINO</b>?:<b class='flag-5'>輕松</b>集成AI<b class='flag-5'>模型</b>!

    基于算力魔方與PP-OCRv5的OpenVINO智能文檔識別方案

    )團隊最新推出的PP-OCRv5模型在精度和效率上實現(xiàn)了顯著突破,結合Intel OpenVINO工具套件的硬件加速能力,能夠為各類文檔處理場景提供更強大的支持。 二,算力魔方簡介 算力魔方是一款可以DIY的迷你主機,采用了抽屜
    的頭像 發(fā)表于 06-12 21:19 ?493次閱讀
    基于算力魔方與<b class='flag-5'>PP-OCRv</b>5的<b class='flag-5'>OpenVINO</b>智能文檔識別方案

    電子發(fā)燒友

    中國電子工程師最喜歡的網(wǎng)站

    • 2931785位工程師會員交流學習
    • 獲取您個性化的科技前沿技術信息
    • 參加活動獲取豐厚的禮品