電子發(fā)燒友App

硬聲App

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示
創(chuàng)作
電子發(fā)燒友網(wǎng)>電子資料下載>電子資料>FBGEMM服務器端推理優(yōu)化庫

FBGEMM服務器端推理優(yōu)化庫

2022-06-22 | zip | 0.80 MB | 次下載 | 免費

資料介紹

授權協(xié)議 BSD
開發(fā)語言 C/C++
軟件類型 開源軟件

軟件簡介

Facebook 開源了 FBGEMM,一個針對服務器推理優(yōu)化的高性能核心庫。 與其他庫不同,F(xiàn)BGEMM 最大程度優(yōu)化了 CPU 性能,通過降低精度計算來加速深度學習模型。 目前 Facebook 已經(jīng)在自己的服務中使用該庫,與目前的生產(chǎn)基準相比,它帶來了兩倍的性能提升。

FBGEMM 的最大特點是優(yōu)化低精度數(shù)據(jù)。 與科學計算中使用的傳統(tǒng)線性代數(shù)庫不同,F(xiàn)BGEMM 不使用 FP32 或 FP64 精度,可以為小批量提供有效的低精度通用矩陣乘法(GEMM)運算,并支持精確損失最小化技術,例如行式(Row-wise)量化和異常值感知量化。

FBGEMM 已在 Facebook 上大規(guī)模部署,加速了許多端到端人工智能服務,包括將英語翻譯成西班牙語的速度提高 1.3 倍,減少了 40% 的推薦系統(tǒng)信息源動態(tài)內(nèi)存帶寬的使用 ,并將機器學習系統(tǒng) Rosetta 的字符檢測速度提升2.4倍(Rosetta 是 Facebook 用來理解文本,圖像和視頻內(nèi)容的系統(tǒng)。)

pYYBAGKn5xCAMCZwAAGrawdgjsk926.jpg

?

下載該資料的人也在下載 下載該資料的人還在閱讀
更多 >

評論

查看更多

下載排行

本周

  1. 1山景DSP芯片AP8248A2數(shù)據(jù)手冊
  2. 1.06 MB  |  532次下載  |  免費
  3. 2RK3399完整板原理圖(支持平板,盒子VR)
  4. 3.28 MB  |  339次下載  |  免費
  5. 3TC358743XBG評估板參考手冊
  6. 1.36 MB  |  330次下載  |  免費
  7. 4DFM軟件使用教程
  8. 0.84 MB  |  295次下載  |  免費
  9. 5元宇宙深度解析—未來的未來-風口還是泡沫
  10. 6.40 MB  |  227次下載  |  免費
  11. 6迪文DGUS開發(fā)指南
  12. 31.67 MB  |  194次下載  |  免費
  13. 7元宇宙底層硬件系列報告
  14. 13.42 MB  |  182次下載  |  免費
  15. 8FP5207XR-G1中文應用手冊
  16. 1.09 MB  |  178次下載  |  免費

本月

  1. 1OrCAD10.5下載OrCAD10.5中文版軟件
  2. 0.00 MB  |  234315次下載  |  免費
  3. 2555集成電路應用800例(新編版)
  4. 0.00 MB  |  33566次下載  |  免費
  5. 3接口電路圖大全
  6. 未知  |  30323次下載  |  免費
  7. 4開關電源設計實例指南
  8. 未知  |  21549次下載  |  免費
  9. 5電氣工程師手冊免費下載(新編第二版pdf電子書)
  10. 0.00 MB  |  15349次下載  |  免費
  11. 6數(shù)字電路基礎pdf(下載)
  12. 未知  |  13750次下載  |  免費
  13. 7電子制作實例集錦 下載
  14. 未知  |  8113次下載  |  免費
  15. 8《LED驅(qū)動電路設計》 溫德爾著
  16. 0.00 MB  |  6656次下載  |  免費

總榜

  1. 1matlab軟件下載入口
  2. 未知  |  935054次下載  |  免費
  3. 2protel99se軟件下載(可英文版轉(zhuǎn)中文版)
  4. 78.1 MB  |  537798次下載  |  免費
  5. 3MATLAB 7.1 下載 (含軟件介紹)
  6. 未知  |  420027次下載  |  免費
  7. 4OrCAD10.5下載OrCAD10.5中文版軟件
  8. 0.00 MB  |  234315次下載  |  免費
  9. 5Altium DXP2002下載入口
  10. 未知  |  233046次下載  |  免費
  11. 6電路仿真軟件multisim 10.0免費下載
  12. 340992  |  191187次下載  |  免費
  13. 7十天學會AVR單片機與C語言視頻教程 下載
  14. 158M  |  183279次下載  |  免費
  15. 8proe5.0野火版下載(中文版免費下載)
  16. 未知  |  138040次下載  |  免費