微軟可能在考慮通過在線云服務(wù)提供DeepSpeed
微軟已經(jīng)為深度學習優(yōu)化庫 DeepSpeed 申請了商標保護。該商標于2020年12月8日提交，其中提到“為人工智能處理和深度學習提供臨時使用的在線不可下載的計算機軟件”，這表明微軟可能在考慮通過在線云服務(wù)提供 DeepSpeed。
該庫于今年 2 月發(fā)布，可以在適度的硬件上訓練大規(guī)模的人工智能模型。它只需要使用 800 塊 Nvidia V100 顯卡就可以創(chuàng)建具有萬億參數(shù)的深度學習模型，是目前世界上最大的模型的 5 倍多。如果沒有DeepSpeed，同樣的任務(wù)需要 4000 塊 Nvidia A100（性能比 V100 快2.5倍），而且事件縮短了 100 多天。
在 GPT-3 顯示模型在神經(jīng)網(wǎng)和數(shù)據(jù)集越大的情況下繼續(xù)改進后，這個工具特別有用。然而，這確實有可能將最新的創(chuàng)新推到資源較少的小型團隊的范圍之外，但DeepSpeed已經(jīng)允許這些團隊以最小的硬件與更大的服務(wù)競爭。轉(zhuǎn)移到云處理可能會使大型模型AI訓練更容易獲得。
責任編輯：haq
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
微軟
+關(guān)注
關(guān)注
4文章
6620瀏覽量
104242 -
人工智能
+關(guān)注
關(guān)注
1792文章
47525瀏覽量
239263 -
云服務(wù)
+關(guān)注
關(guān)注
0文章
829瀏覽量
38959
發(fā)布評論請先 登錄
相關(guān)推薦
華為 Flexus 云服務(wù)器打造 Laverna 在線筆記應(yīng)用
和可靠性來搭建 Laverna 在線筆記，為用戶提供便捷、安全的筆記服務(wù)。 一、華為 Flexus 云服務(wù)器：網(wǎng)站安全的堅實基石 在當今數(shù)字
彈性云服務(wù)器通過什么存儲數(shù)據(jù)和文件？
彈性云服務(wù)器通過多種存儲方式存儲數(shù)據(jù)和文件，包括云硬盤、對象存儲服務(wù)、分布式文件系統(tǒng)和數(shù)據(jù)庫服務(wù)
通過工業(yè)智能網(wǎng)關(guān)實現(xiàn)與微軟Azure IoT中心快速配置操作
微軟Azure IoT 中心是一個基于Azure云服務(wù)構(gòu)建的端到端IoT SaaS（軟件及服務(wù)）平臺，可以為企業(yè)及個人用戶提供實現(xiàn)靈活、輕松
api驅(qū)動的云服務(wù)是什么意思？
API驅(qū)動的云服務(wù)是指利用API技術(shù)來驅(qū)動和提供云服務(wù)的模式。在這種模式下，云
美國的云服務(wù)器什么價格能買到？
美國云服務(wù)器價格因配置、地理位置、服務(wù)商等因素而異，月租費用大致在10美元至數(shù)百美元不等，年租費用則在120美元至數(shù)千美元之間。基礎(chǔ)配置月租可能在20至50美元，高性能配置則高達數(shù)百美
超享云服務(wù)器是什么意思？是免費的嗎
超享云服務(wù)器是一種基于云計算技術(shù)，提供高性能、高可靠性和可擴展性的虛擬化服務(wù)器服務(wù)。它是
如何通過內(nèi)網(wǎng)IP安全訪問云服務(wù)器？
要通過內(nèi)網(wǎng)IP安全訪問云服務(wù)器，您需要考慮以下幾個步驟： 1、獲取內(nèi)網(wǎng)IP地址：首先，您需要確定云服務(wù)
如何理解云計算？
和維護這些數(shù)據(jù)。
**在線視頻和流媒體：**云計算提供高性能的存儲和計算資源，用于存儲和傳輸大量的音視頻數(shù)據(jù)，并支持高質(zhì)量的流媒體服務(wù)。用戶可以通過
發(fā)表于 08-16 17:02
新加坡云主機需要考慮哪些方面
新加坡云主機是指部署在新加坡的云計算主機服務(wù)，它能夠提供高度安全、可控和定制化的計算資源，滿足企業(yè)和個人特定需求。新加坡作為東南亞一個重要的經(jīng)濟和科技中心，擁有良好的基礎(chǔ)設(shè)施和網(wǎng)絡(luò)連接
是否有可能在軟件中重新配置XMC4800的兩個MII端口，使其用于E-BUS通信？
。
(摘自https://www.ethercat.org/download/documents/ESC_Overview.pdf）
是否有可能在軟件中重新配置 XMC4800 的兩個 MII 端口，使其用于 E-BUS 通信，還是這一配置已在硬件中固定，因此無法更改？
發(fā)表于 07-19 07:02
選擇美國vps云服務(wù)器的考慮因素
美國VPS云服務(wù)器是位于美國數(shù)據(jù)中心的虛擬專用服務(wù)器，它們通過虛擬化技術(shù)在物理服務(wù)器上提供獨立
CYUSB2014-BZXC是否有可能在固件上更改邏輯插座和EP之間的對應(yīng)關(guān)系？
我對 CYUSB2014-BZXC 有疑問。
是否有可能在固件上更改邏輯插座和 EP 之間的對應(yīng)關(guān)系？ 如果是這樣，您能告訴我應(yīng)該參考哪些示例代碼嗎？
發(fā)表于 07-03 07:54
是否有可能在支持gdb的第三方集成開發(fā)環(huán)境中使用DAS配置調(diào)試？
是否有可能在支持 gdb 的第三方集成開發(fā)環(huán)境中使用 DAS 配置調(diào)試？
發(fā)表于 07-02 07:29
微軟將采用AMD AI芯片以替代英偉達，為云計算提供更優(yōu)解決方案
微軟將大規(guī)模采用AMD的旗艦產(chǎn)品MI300X，并通過Azure云計算平臺向用戶提供計算集群服務(wù)。鑒于Nvidia的H100和H200芯片供應(yīng)
PSoC4是否有可能在引導加載程序中將WCO延遲縮短到500毫秒？
大是否有可能在引導加載程序的以下功能中將 WCO 延遲縮短到 500 毫秒？
static void ClockSetup(void){/* Set Flash Cycles based
發(fā)表于 01-30 06:28
工商網(wǎng)監(jiān)
評論