百度智能云進(jìn)一步集成Arm虛擬硬件 加速AI開發(fā)創(chuàng)新

繼 Arm 虛擬硬件于 2023 年八月上線百度智能云后，近日，雙方基于 Arm 虛擬硬件的合作再度迎來新里程！百度智能云 EasyDL 和 BML 團(tuán)隊(duì)已對 Arm 虛擬硬件進(jìn)行驗(yàn)證，將其應(yīng)用于百度基于云原生的持續(xù)集成/持續(xù)部署 (CI/CD) 內(nèi)部通路。

集成后，通過 EasyDL 和 BML 開發(fā)平臺上的 Arm 虛擬硬件可以對軟件模型進(jìn)行功能性驗(yàn)證，并直接獲得推理時(shí)間、性能等指標(biāo)信息。同時(shí)，在開發(fā)軟件的關(guān)鍵環(huán)節(jié)，包括軟件和模型比較、篩選、調(diào)優(yōu)等開發(fā)和測試工作上，Arm 虛擬硬件能帶來全新高效的現(xiàn)代化云開發(fā)工作形式和流程，大幅提升開發(fā)效率。

經(jīng)整合測試，此次集成后的開發(fā)適配時(shí)間對比之前的模式可縮短一半以上，同時(shí)，還可省去后續(xù)維護(hù)大量硬件的時(shí)間與成本，進(jìn)而讓 AI 開發(fā)觸手可及，積極助力擁抱 AI 時(shí)代。

Arm 虛擬硬件

軟件開發(fā)工作流的高效提速器

Arm 虛擬硬件能夠助力軟件開發(fā)者、OEM 廠商和服務(wù)提供商在無需等待實(shí)體芯片就緒的情況下，即可早于以往進(jìn)行軟件開發(fā)，擺脫實(shí)體硬件的限制，大幅提速軟件開發(fā)流程、縮短驗(yàn)證時(shí)間，降低了相關(guān)成本。甚至當(dāng) Arm 發(fā)布全新 IP 或計(jì)算平臺時(shí)，開發(fā)者可以馬上啟動(dòng)軟件開發(fā)工作，達(dá)到幾乎同步的高效作業(yè)。

更重要的是，Arm 虛擬硬件引入了現(xiàn)代化、高彈性的軟件開發(fā)環(huán)境，實(shí)現(xiàn)軟硬件共同設(shè)計(jì)和高效的 CI/CD，消除了建立或維護(hù)多種開發(fā)板硬件集群的復(fù)雜性。依托于豐富的生態(tài)系統(tǒng)布局和廣泛的基于 Arm 架構(gòu)的海量應(yīng)用設(shè)備，Arm 虛擬硬件具備更加廣泛的適配性，尤其能為早期的模型和算法篩選與驗(yàn)證帶來優(yōu)勢，為簡化軟件移植實(shí)現(xiàn)高效、大規(guī)模開發(fā)帶來價(jià)值。

雙向加持 輕松上手 AI 開發(fā)

百度 EasyDL 和 BML 平臺支持在多種基于 Arm 架構(gòu)的邊緣設(shè)備上部署 AI 模型。對于邊緣 AI 產(chǎn)品和應(yīng)用開發(fā)者來說，在 EasyDL 和 BML 平臺上完成了模型構(gòu)建、訓(xùn)練和調(diào)優(yōu)之后，則需要在實(shí)際邊緣設(shè)備上進(jìn)行性能測試和最終調(diào)優(yōu)，以期在目標(biāo)設(shè)備上實(shí)現(xiàn)最優(yōu)性能，亦或是基于確定的性能指標(biāo)來選擇合適的硬件配置，乃至為全面權(quán)衡軟硬件解決方案而重新篩選模型。

而 Arm 虛擬硬件集成到百度云原生的 CI/CD 工作流中后，開發(fā)者可以在日常中使用其服務(wù)和工具進(jìn)行軟件的開發(fā)、驗(yàn)證、測試，而無需受限于實(shí)體硬件就緒情況，由此提高了 CI/CD 效率，加速了基于 Arm 邊緣 AI 的開發(fā)和部署。

百度 AI 開發(fā)平臺也在持續(xù)提供豐富的邊緣設(shè)備庫，隨著全新 Arm 計(jì)算平臺的不斷推出及創(chuàng)新的邊緣硬件不斷面世，開發(fā)者期待在更多、更新的設(shè)備上進(jìn)行測試開發(fā)的需求永無止盡。因應(yīng)于此，基于云端的 Arm 虛擬硬件也在不斷擴(kuò)展以囊括全新虛擬設(shè)備和新增更多的模型，旨在第一時(shí)間帶來更多的選擇。

當(dāng)前，各領(lǐng)域的行業(yè)應(yīng)用正全面進(jìn)入 AI 原生階段，面向各 AI 應(yīng)用進(jìn)行深度的軟硬件協(xié)同優(yōu)化，提供更簡單易用、高效、低成本、可擴(kuò)展的開發(fā)過程至關(guān)重要。下一階段，百度 AI 開發(fā)雙平臺集成 Arm 虛擬硬件將圍繞業(yè)務(wù)場景和各領(lǐng)域的實(shí)際需求邁入應(yīng)用階段，通過釋放雙方的創(chuàng)新力，真正為更多的企業(yè)和開發(fā)者注入加速的 AI 能力，提供更高效、更便捷的 DevOps/MLOps 服務(wù)。

審核編輯：劉清