HUAWEI HiAI Foundation如何解決多IP深度協(xié)同能力

什么是多IP深度協(xié)同能力？

在理解這個(gè)概念之前，

我們先來(lái)科普一下，

為什么AI計(jì)算需要多IP協(xié)同？

HUAWEI HiAI Foundation的起源，

是基于NPU計(jì)算能力的開(kāi)放，

但并非所有的AI業(yè)務(wù)都適合在NPU上運(yùn)行，

譬如計(jì)算量小的AI業(yè)務(wù)，

通過(guò)NPU+CPU+GPU的異構(gòu)架構(gòu)處理，

性能更強(qiáng)，功耗更低。

因此，根據(jù)不同的業(yè)務(wù)特點(diǎn)，

靈活部署不同的計(jì)算核，

可以獲得兼容性和性能的全面提升。

但是在多IP協(xié)同計(jì)算過(guò)程中，

IP之間互相需拷貝數(shù)據(jù)，

會(huì)帶來(lái)額外的流轉(zhuǎn)開(kāi)銷。

HUAWEI HiAI Foundation如何解決？

一起來(lái)看！

原文標(biāo)題：如何實(shí)現(xiàn)高性能低功耗的AI應(yīng)用開(kāi)發(fā)？圖解HUAWEI HiAI Foundation多IP深度協(xié)同能力

文章出處：【微信公眾號(hào)：華為麒麟】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。