資料介紹
軟件簡介
Facebook 開源了 FBGEMM,一個針對服務器推理優(yōu)化的高性能核心庫。 與其他庫不同,F(xiàn)BGEMM 最大程度優(yōu)化了 CPU 性能,通過降低精度計算來加速深度學習模型。 目前 Facebook 已經(jīng)在自己的服務中使用該庫,與目前的生產(chǎn)基準相比,它帶來了兩倍的性能提升。
FBGEMM 的最大特點是優(yōu)化低精度數(shù)據(jù)。 與科學計算中使用的傳統(tǒng)線性代數(shù)庫不同,F(xiàn)BGEMM 不使用 FP32 或 FP64 精度,可以為小批量提供有效的低精度通用矩陣乘法(GEMM)運算,并支持精確損失最小化技術,例如行式(Row-wise)量化和異常值感知量化。
FBGEMM 已在 Facebook 上大規(guī)模部署,加速了許多端到端人工智能服務,包括將英語翻譯成西班牙語的速度提高 1.3 倍,減少了 40% 的推薦系統(tǒng)信息源動態(tài)內(nèi)存帶寬的使用 ,并將機器學習系統(tǒng) Rosetta 的字符檢測速度提升2.4倍(Rosetta 是 Facebook 用來理解文本,圖像和視頻內(nèi)容的系統(tǒng)。)
- 差分晶振在AI服務器中的應用案例
- TCP通信服務器端和客戶端同機互傳的簡單示例程序免費下載 9次下載
- Java程序設計教程之Java WEB服務器端編程的詳細資料說明 11次下載
- 網(wǎng)絡調(diào)試和串口調(diào)試集合UDP TCP客戶端和TCP服務器端應用程序免費下載 16次下載
- 基于netlink的linux服務器集群統(tǒng)一外設事件監(jiān)聽機制 6次下載
- 機載航電系統(tǒng)地面試驗模擬器服務器端的研究與實現(xiàn)_沈科宇 0次下載
- 波浪浮標服務器端軟件設計_吳子岳 0次下載
- VC++程序開發(fā)范例寶典之StdAfx服務器端 2次下載
- VC++程序開發(fā)范例寶典之StdAfx服務器端 3次下載
- JAVA教程之TCP服務器端 10次下載
- Delphi教程之建立數(shù)據(jù)查詢WebServices服務器端 6次下載
- 標準服務器簡化WAN優(yōu)化 0次下載
- 淘寶商品推廣系統(tǒng)服務器端軟件的設計與實現(xiàn) 12次下載
- VOD視頻服務器測試與配置優(yōu)化研究 31次下載
- 服務器端腳本與動態(tài)網(wǎng)頁設計,下載 0次下載
- 如何找到連接到服務器的客戶端計算機的IP地址 1494次閱讀
- 使用推理服務器加速大型Transformer模型的推理 1271次閱讀
- 在服務器端使用內(nèi)存來存儲客戶端發(fā)送過來的數(shù)據(jù) 1065次閱讀
- 數(shù)據(jù)是怎么樣保證準確的從客戶端發(fā)送到服務器端 1837次閱讀
- Merlin HugeCTR 分級參數(shù)服務器簡介 1450次閱讀
- 常見的服務器有哪些?5款常見的應用服務器介紹 1.4w次閱讀
- 如何管理刀片服務器?普通服務器與高防服務器有什么樣的區(qū)別 1414次閱讀
- 在RDMA網(wǎng)絡中如何合理設置MMU水線,解決服務器端數(shù)據(jù)延遲問題 3326次閱讀
- 服務器端模式下的TCP通信 4413次閱讀
- 服務器端發(fā)票識別api接口 2625次閱讀
- TCP實現(xiàn)服務器與客戶端的通信流程實例 1.2w次閱讀
- 串口服務器工作原理及使用方法 1w次閱讀
- 應用服務器和數(shù)據(jù)庫服務器有什么區(qū)別 1.8w次閱讀
- 應用服務器和數(shù)據(jù)庫服務器怎么連接 2.7w次閱讀
- 基于LBS的Android校園服務APP客戶端的設計 3545次閱讀
下載排行
本周
- 1山景DSP芯片AP8248A2數(shù)據(jù)手冊
- 1.06 MB | 532次下載 | 免費
- 2RK3399完整板原理圖(支持平板,盒子VR)
- 3.28 MB | 339次下載 | 免費
- 3TC358743XBG評估板參考手冊
- 1.36 MB | 330次下載 | 免費
- 4DFM軟件使用教程
- 0.84 MB | 295次下載 | 免費
- 5元宇宙深度解析—未來的未來-風口還是泡沫
- 6.40 MB | 227次下載 | 免費
- 6迪文DGUS開發(fā)指南
- 31.67 MB | 194次下載 | 免費
- 7元宇宙底層硬件系列報告
- 13.42 MB | 182次下載 | 免費
- 8FP5207XR-G1中文應用手冊
- 1.09 MB | 178次下載 | 免費
本月
- 1OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234315次下載 | 免費
- 2555集成電路應用800例(新編版)
- 0.00 MB | 33566次下載 | 免費
- 3接口電路圖大全
- 未知 | 30323次下載 | 免費
- 4開關電源設計實例指南
- 未知 | 21549次下載 | 免費
- 5電氣工程師手冊免費下載(新編第二版pdf電子書)
- 0.00 MB | 15349次下載 | 免費
- 6數(shù)字電路基礎pdf(下載)
- 未知 | 13750次下載 | 免費
- 7電子制作實例集錦 下載
- 未知 | 8113次下載 | 免費
- 8《LED驅(qū)動電路設計》 溫德爾著
- 0.00 MB | 6656次下載 | 免費
總榜
- 1matlab軟件下載入口
- 未知 | 935054次下載 | 免費
- 2protel99se軟件下載(可英文版轉(zhuǎn)中文版)
- 78.1 MB | 537798次下載 | 免費
- 3MATLAB 7.1 下載 (含軟件介紹)
- 未知 | 420027次下載 | 免費
- 4OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234315次下載 | 免費
- 5Altium DXP2002下載入口
- 未知 | 233046次下載 | 免費
- 6電路仿真軟件multisim 10.0免費下載
- 340992 | 191187次下載 | 免費
- 7十天學會AVR單片機與C語言視頻教程 下載
- 158M | 183279次下載 | 免費
- 8proe5.0野火版下載(中文版免費下載)
- 未知 | 138040次下載 | 免費
評論
查看更多