0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

AI和大語言模型給云計(jì)算和DevOps帶來了哪些影響?

jf_WZTOguxH ? 來源:InfoQ ? 2023-08-03 15:26 ? 次閱讀

關(guān)鍵要點(diǎn)

云計(jì)算創(chuàng)新已經(jīng)從革命性階段過渡到了進(jìn)化性階段,重點(diǎn)在于遷移和重構(gòu)工作負(fù)載。云計(jì)算已經(jīng)發(fā)展到可以提供對(duì)可伸縮資源和托管服務(wù)的按需訪問,并重視簡化交互和減輕團(tuán)隊(duì)的認(rèn)知負(fù)擔(dān)。

通過降低認(rèn)知負(fù)載和為即時(shí)管理、工單系統(tǒng)和代碼生成等任務(wù)提供支持,人工智能AI)和大型語言模型(LLMs)可能在云計(jì)算和 DevOps 領(lǐng)域發(fā)揮重要作用。主要的云計(jì)算供應(yīng)商,如微軟、谷歌和亞馬遜科技等,已經(jīng)將 AI 集成到他們的產(chǎn)品和服務(wù)中,充分展示了行業(yè)在 AI 技術(shù)上的投入。

受基于 AI 和類似 ChatGPT 的產(chǎn)品的影響,低代碼和無代碼領(lǐng)域開始為業(yè)務(wù)用戶和軟件工程團(tuán)隊(duì)提供協(xié)作機(jī)會(huì)。平臺(tái)工程采用了平臺(tái)即服務(wù)的思維方式,正朝著簡化和價(jià)值交付的方向發(fā)展。平臺(tái)工程團(tuán)隊(duì)的角色正在從復(fù)雜基礎(chǔ)設(shè)施的管理者轉(zhuǎn)變?yōu)閷W⒂谟脩魸M意度和價(jià)值創(chuàng)造的服務(wù)提供者。對(duì)可觀察性、財(cái)務(wù)相關(guān)性和可持續(xù)性的考量正在成為平臺(tái)工程不可或缺的部分。

OpenTelemetry 被廣泛用于收集指標(biāo)和基于事件的可觀察性數(shù)據(jù),成為行業(yè)事實(shí)上的標(biāo)準(zhǔn)。它的標(biāo)準(zhǔn)化特性促進(jìn)了供應(yīng)商之間的優(yōu)化和創(chuàng)新。

對(duì)可持續(xù)性和綠色計(jì)算的關(guān)注推動(dòng)了架構(gòu)選擇朝著效率和最小化碳足跡的方向發(fā)展。站點(diǎn)可靠性工程(SRE)團(tuán)隊(duì)在分析環(huán)境影響和推動(dòng)可持續(xù)性倡議方面起到至關(guān)重要的作用。

趨勢(shì)圖更新

本報(bào)告的后面部分會(huì)有更多細(xì)節(jié),但我們先來總結(jié)一下與去年的趨勢(shì)圖相比有哪些變化。

6cc281f0-31bf-11ee-9e74-dac502259ad0.png

FinOps,即高效管理云成本的實(shí)踐,正向著早期大眾的方向發(fā)展。FinOps 基金會(huì)和一些云供應(yīng)商,如微軟、AWS 和谷歌,在推動(dòng) FinOps 實(shí)踐的采用,這些實(shí)踐符合可持續(xù)性和優(yōu)化資源使用的目標(biāo)。最近,谷歌成為了 FinOps 認(rèn)證服務(wù)提供商,微軟也作為首席成員加入了 FinOps 組織。

WebAssembly(Wasm)的持續(xù)演進(jìn)正兌現(xiàn)著在云中實(shí)現(xiàn)“一次編寫,到處運(yùn)行”的承諾,提供了不同語言和平臺(tái)之間的可重用性和互操作性。eBPF(Extended Berkeley Packet Filter)在可觀察性和內(nèi)核級(jí)別的安全性等領(lǐng)域受到關(guān)注。

我們發(fā)現(xiàn),通用函數(shù)即服務(wù)(FaaS)和后端即服務(wù)(BaaS)的概念在“晚期大眾”用戶中受到了關(guān)注。無服務(wù)器技術(shù)的采用已經(jīng)變得普遍?!拔覀兪?100% 無服務(wù)器”的說法不再像以前那樣令人感到驚訝,因?yàn)闊o服務(wù)器已經(jīng)成為行業(yè)采用的主流方法。

云計(jì)算是否從革命轉(zhuǎn)向了進(jìn)化階段? DevOps 是否已死?

在配套的云計(jì)算和 DevOps 趨勢(shì)播客討論中,與會(huì)者討論了云創(chuàng)新和 DevOps 的現(xiàn)狀。他們一致認(rèn)為,云創(chuàng)新已經(jīng)放緩,從“革命”轉(zhuǎn)向了“進(jìn)化”。雖然大量的組織已經(jīng)采用了云技術(shù),但還有許多企業(yè)想要遷移和重新架構(gòu)工作負(fù)載。

至于 DevOps,它仍然還活著,但在一些組織中已經(jīng)進(jìn)入了停滯階段。DevOps 旨在通過提供自主權(quán)來創(chuàng)造業(yè)務(wù)價(jià)值的概念仍然存在,但在實(shí)現(xiàn)方面面臨著挑戰(zhàn)。與會(huì)者表達(dá)了他們對(duì)通過價(jià)值流管理來解鎖 DevOps 流程和價(jià)值實(shí)現(xiàn)的興趣。

公有云供應(yīng)商已經(jīng)從他們最初的目標(biāo)——提供對(duì)可伸縮資源的按需訪問——轉(zhuǎn)變?yōu)楦雨P(guān)注提供托管服務(wù)。這種轉(zhuǎn)變使得云計(jì)算變得更加普遍。然而,技術(shù)圍繞著已有的服務(wù)在迅速發(fā)生變化,新的業(yè)務(wù)需求和挑戰(zhàn)隨之涌現(xiàn)。團(tuán)隊(duì)必須在不斷交付業(yè)務(wù)價(jià)值和采用、更新技術(shù)棧之間做出平衡。InfoQ 首席 DevOps 編輯 Matthew Campbell 說:

企業(yè)也想快速演進(jìn)和適應(yīng)變化……我們現(xiàn)在處于這樣的一個(gè)階段,我們正在試圖弄清楚我們?nèi)绾文軌蚩沙掷m(xù)地利用我們發(fā)明和創(chuàng)造的所有東西和交互方式,并達(dá)到一種我們可以舒適地進(jìn)行創(chuàng)新的階段。

此外,云服務(wù)現(xiàn)在已經(jīng)在小型和大型組織中得到了廣泛的采用,甚至進(jìn)入了晚期采用者階段,而新冠疫情通常是其中的一個(gè)驅(qū)動(dòng)因素。例如,自動(dòng)化配置環(huán)境的演進(jìn)——快速配置完整的開發(fā)和測(cè)試環(huán)境的能力現(xiàn)在已經(jīng)變得很普遍。然而,彌合開發(fā)和運(yùn)維之間的差距仍然存在挑戰(zhàn)。身份和訪問管理問題在開發(fā)和運(yùn)維團(tuán)隊(duì)之間造成了一個(gè)感知上的邊界。

AI 和大語言模型給云計(jì)算和 DevOps 帶來了哪些影響?

與會(huì)者討論了認(rèn)知過載以及 AI 如何幫助降低認(rèn)知負(fù)載。他們提到了一種特定的 AI 應(yīng)用,叫作 AIOps,一種專注于 IT 運(yùn)維的 AI,在即時(shí)管理和工單系統(tǒng)方面表現(xiàn)出了有效性。大語言模型提供了實(shí)實(shí)在在的好處,例如使用 ChatGPT 來驗(yàn)證信息、生成教學(xué)筆記、輔助寫作和創(chuàng)作。微軟已經(jīng)將 AI 集成到其產(chǎn)品和服務(wù)中,展示了其在 AI 技術(shù)方面的重大投入。InfoQ 首席云編輯 Steef-Jan Wiggers 說:

微軟提供的很多服務(wù),甚至最近的一些服務(wù),如 Fabric,一個(gè)完整的 SaaS 數(shù)據(jù)湖解決方案,都充分融合了 AI。

Fabric 只是其中的一個(gè)例子,其他公有云供應(yīng)商也推出了 AI 融合服務(wù),如亞馬遜的 Sagemaker 和谷歌的 Vertex AI 和 AutoML。想了解有關(guān) OpenAI 的信息,可以關(guān)注 InfoQ 的這個(gè)主題。

基于 AI 和類似 ChatGPT 的產(chǎn)品 給低代碼和無代碼帶來了哪些影響?

將 AI 集成到低代碼工具中是一個(gè)商業(yè)機(jī)會(huì),AI 將為業(yè)務(wù)用戶提供安全和有價(jià)值的知識(shí)。這緩解了人們之前對(duì)影子 IT 的擔(dān)憂,并促進(jìn)了產(chǎn)品管理和軟件工程團(tuán)隊(duì)之間的協(xié)作。

此外,還有一個(gè)叫作“ClickOps”的概念,即用戶在低代碼平臺(tái)上能夠通過點(diǎn)擊實(shí)現(xiàn)交互,同時(shí)生成可控制版本、聲明式和可適應(yīng)的代碼。例如,一些改進(jìn)了 AI 代碼生成能力的工具,如 GitHub Copilot 和 Codeium,可以生成符合組織標(biāo)準(zhǔn)、具有可讀性且可以不斷演進(jìn)的代碼。大語言模型和 AI 驅(qū)動(dòng)的代碼生成能力的演進(jìn)將為低代碼領(lǐng)域帶來令人興奮的改變。

最后,低代碼環(huán)境中的數(shù)據(jù)治理和訪問管理是必不可少的。它帶來了一些挑戰(zhàn),比如在確保適當(dāng)?shù)闹卫砗秃弦?guī)性的同時(shí),為業(yè)務(wù)用戶提供數(shù)據(jù)訪問能力。Campbell 指出,我們有必要在低代碼增強(qiáng)平臺(tái)工程中建立一個(gè)“DevOpsy”治理層,提供安全防護(hù),防止超出某些配置邊界。

此外,DevOps Institute 的 DevOps 戰(zhàn)略顧問 Helen Beal 補(bǔ)充說:

我覺得很有趣的是,我們正處在一個(gè)轉(zhuǎn)彎處,因?yàn)?AI 實(shí)際上是在支持商業(yè)人士,為他們提供可能是安全的知識(shí)。

平臺(tái)工程將如何演進(jìn)?

平臺(tái)工程的演進(jìn)涉及向簡化、關(guān)注價(jià)值交付和采用平臺(tái)即服務(wù)思維方式的轉(zhuǎn)變。這種變化涉及提供自助式平臺(tái)、隱藏復(fù)雜性并減少應(yīng)用程序開發(fā)者的認(rèn)知負(fù)擔(dān)。平臺(tái)工程團(tuán)隊(duì)的角色正在從復(fù)雜基礎(chǔ)設(shè)施的維護(hù)者轉(zhuǎn)變?yōu)閷?duì)組織其他部分提供服務(wù)的服務(wù)提供者。他們現(xiàn)在專注于處理與開發(fā)者關(guān)系、營銷和客戶參與度相關(guān)的問題,提升用戶體驗(yàn)和驅(qū)動(dòng)價(jià)值創(chuàng)造。

Syntasso 首席工程師 Abby Bangser 解釋說:

平臺(tái)工程團(tuán)隊(duì)正在研究開發(fā)者關(guān)系和營銷應(yīng)該是什么樣子的,研究如何與客戶互動(dòng)、獲取反饋并制定能夠滿足他們需求的路線圖。

一些技術(shù),如 Kubernetes,正在被推到更底層的技術(shù)棧,開始越來越注重 API 接口和簡化交互。此外,對(duì)可觀察性的關(guān)注度也在提升,包括服務(wù)水平和關(guān)鍵性能指標(biāo),以及與平臺(tái)使用和成本合理性相關(guān)的財(cái)務(wù)指標(biāo)??傮w而言,平臺(tái)工程的未來在于構(gòu)建能夠增加價(jià)值和為用戶創(chuàng)造愉悅體驗(yàn)的平臺(tái),同時(shí)滿足不斷變化的業(yè)務(wù)需求和約束。

想要了解更多關(guān)于平臺(tái)工程的信息,可以關(guān)注 InfoQ 的這個(gè)話題

FinOps 是否正在轉(zhuǎn)向早期大眾階段? FinOps,即有效管理云成本,正在轉(zhuǎn)向早期大眾階段。越來越多的公司加入了 FinOps 基金會(huì),也有許多工具可以支持 FinOps 流程。但需要注意的是,F(xiàn)inOps 不僅僅是工具,它還涉及流程,以及對(duì)成本價(jià)值的理解。FinOps 基金會(huì)和云供應(yīng)商(如谷歌和微軟)積極參與這個(gè)過程,并推動(dòng) FinOps 實(shí)踐的采用。

人們對(duì) FinOps 的認(rèn)知也在發(fā)生改變,并引發(fā)了關(guān)于為什么要配置和運(yùn)行某些云資源以及它們是否被有效利用的討論。可持續(xù)性和 GreenOps 也與 FinOps 相關(guān),因?yàn)槌杀緝?yōu)化的關(guān)注點(diǎn)與資源利用效率的目標(biāo)是對(duì)齊的。AI 在 FinOps 方面發(fā)揮了重要作用,它可以識(shí)別未使用的數(shù)據(jù)、幫助優(yōu)化存儲(chǔ),節(jié)省財(cái)務(wù)成本,提升環(huán)保效益。

在構(gòu)建基于云的應(yīng)用程序或采用 DevOps 實(shí)踐 時(shí),架構(gòu)師和開發(fā)人員是否面臨著過多的安全問題?

架構(gòu)師和開發(fā)人員在構(gòu)建基于云的應(yīng)用程序或采用 DevOps 實(shí)踐時(shí),面臨著越來越多的安全問題。特別是開發(fā)人員,他們可能會(huì)感到左移策略讓他們不堪重負(fù),因?yàn)樗麄冃枰谡麄€(gè)開發(fā)過程中識(shí)別和優(yōu)先考慮安全問題。

雖然組織對(duì)安全的重要性有了越來越多的認(rèn)識(shí),也有來自高層的推動(dòng)力來解決這些問題,但開發(fā)人員往往需要在安全需求和交付新功能的壓力之間做出平衡。

安全工具的不斷演變也是這個(gè)領(lǐng)域的一個(gè)考量因素。早期的解決方案是由專家為專家而設(shè)計(jì)的,對(duì)開發(fā)人員來說不夠友好。然而,越來越多的人認(rèn)識(shí)到需要使用更易于訪問和使用的安全工具。我們的目標(biāo)是使安全成為一種賦能功能,構(gòu)建出能夠簡化安全實(shí)現(xiàn)并為開發(fā)團(tuán)隊(duì)提供教育和支持的平臺(tái)。這種方法旨在彌合專家驅(qū)動(dòng)的安全實(shí)現(xiàn)和開發(fā)人員實(shí)際需求之間的差距。

WebAssembly(Wasm)是不是云端 “一次編寫,到處運(yùn)行”的最終實(shí)現(xiàn)?

Wasm 是實(shí)現(xiàn)云端“一次編寫,到處運(yùn)行”愿景的重要一步。它承諾了可重用性和互操作性,允許開發(fā)人員用一種語言(如 Go)構(gòu)建庫,并在用其他可以編譯為 Wasm 的語言(如 Rust)編寫的應(yīng)用程序中調(diào)用它們。

有了這種云端內(nèi)部的組件模型,我們可以為多個(gè)目標(biāo)平臺(tái)創(chuàng)建應(yīng)用程序,包括基于 ARM 架構(gòu)的 CPU(因其性能和成本優(yōu)勢(shì)在云基礎(chǔ)設(shè)施中頗受歡迎)。Wasm 的采用不僅限于應(yīng)用程序開發(fā),還涉及了云平臺(tái)擴(kuò)展格式。它被用來擴(kuò)展云原生代理、API 網(wǎng)關(guān)和服務(wù)網(wǎng)格。

除了 WebAssembly,作為平臺(tái)組件開發(fā)者工具的 eBPF 也受到了關(guān)注。雖然應(yīng)用程序工程師可能不會(huì)廣泛使用 eBPF,但我們確實(shí)可以在包含網(wǎng)絡(luò)和安全用例的項(xiàng)目中找到它的身影。它允許開發(fā)人員訪問內(nèi)核級(jí)別的信息,并獲得對(duì)容器系統(tǒng)操作的見解,提高可觀察性和安全能力。

總而言之,WebAssembly 和 eBPF 為提升云應(yīng)用程序的可移植性、可重用性和性能帶來了有趣的可能性。

想要了解更多關(guān)于 Wasm 和 eBPF 的信息,可以關(guān)注 InfoQ 的相關(guān)話題。

OpenTelemetry 在收集指標(biāo)和基于事件的 可觀察性數(shù)據(jù)方面的應(yīng)用有多廣泛?

作為一個(gè)收集指標(biāo)和基于事件的可觀察性數(shù)據(jù)的框架,OpenTelemetry 已經(jīng)得到了快速的采用,并且正在成為行業(yè)事實(shí)上的標(biāo)準(zhǔn)。許多有才華的個(gè)人和供應(yīng)商的協(xié)作促成了它的跨供應(yīng)商支持和跨語言兼容性,讓它成為應(yīng)用程序的必要組成部分。OpenTelemetry 的廣泛采用主要得益于它被納入到主要云供應(yīng)商的產(chǎn)品中,例如亞馬遜云科技的 AWS Distro for OpenTelemetry、微軟 Azure 的監(jiān)控服務(wù)和谷歌云平臺(tái)的 Google Cloud OpenTelemetry。

OpenTelemetry 的標(biāo)準(zhǔn)化特性帶來了眾多好處。它與供應(yīng)商無關(guān),支持導(dǎo)出遙測(cè)數(shù)據(jù)并利用各種工具對(duì)數(shù)據(jù)進(jìn)行分析。這種標(biāo)準(zhǔn)化促進(jìn)了供應(yīng)商之間的優(yōu)化和創(chuàng)新,因?yàn)樗麄冊(cè)谂μ峁┏鰯?shù)據(jù)收集和可視化這些基本功能的高級(jí)特性。作為一個(gè)開放標(biāo)準(zhǔn),OpenTelemetry 的出現(xiàn)標(biāo)志著行業(yè)走向成熟,并促進(jìn)了供應(yīng)商之間的良性競爭,為行業(yè)提供有吸引力的解決方案,并獲得市場份額。

想了解更多關(guān)于 OpenTelemetry 的信息,可以關(guān)注 InfoQ 的這個(gè)話題。

當(dāng)前無服務(wù)器技術(shù)的采用狀況是怎樣的?

無服務(wù)器技術(shù)在采用方面發(fā)生了轉(zhuǎn)變,它正在成為一種常見的選擇,而不是一種獨(dú)特的架構(gòu)概念。“無服務(wù)器”這個(gè)詞不太經(jīng)常被用來討論一個(gè)獨(dú)立的概念,因?yàn)樗鼛缀踝兂闪艘环N與托管服務(wù)(提供可伸縮性、微計(jì)費(fèi)和抽象化的基礎(chǔ)設(shè)施)具有相同含義的詞。一些主要的云供應(yīng)商,如亞馬遜、谷歌和微軟,已經(jīng)將無服務(wù)器組件集成到他們的服務(wù)中,例如數(shù)據(jù)庫(DBaaS)和容器運(yùn)行時(shí)(CaaS),帶來了自動(dòng)縮放和簡化計(jì)費(fèi)結(jié)構(gòu)方面的好處。人們的關(guān)注點(diǎn)已經(jīng)從基于無服務(wù)器函數(shù)構(gòu)建架構(gòu)轉(zhuǎn)移到利用托管服務(wù),與平臺(tái)工程方法保持一致,減少開發(fā)人員的認(rèn)知負(fù)擔(dān)。

無服務(wù)器的價(jià)值,如伸縮至零費(fèi)用和按請(qǐng)求計(jì)費(fèi),已經(jīng)在傳統(tǒng)的無服務(wù)器架構(gòu)之外找到了新的表達(dá)。組織現(xiàn)在認(rèn)識(shí)到了這些好處,并在各種架構(gòu)決策中要求使用無服務(wù)器。雖然無服務(wù)器是獲得這些優(yōu)勢(shì)的眾多方法之一,但組織越來越多地要求他們的工程團(tuán)隊(duì)提供成本效益高的解決方案,并優(yōu)化客戶獲取和支持成本。這種演變凸顯了無服務(wù)器對(duì)更廣泛的架構(gòu)格局的影響。

想要了解更多關(guān)于無服務(wù)器的信息,可以關(guān)注 InfoQ 的這個(gè)話題。

對(duì)可持續(xù)性和綠色計(jì)算的關(guān)注對(duì) 云計(jì)算和 DevOps 有怎樣的影響?

對(duì)可持續(xù)性和綠色計(jì)算的關(guān)注對(duì)云計(jì)算和 DevOps 的實(shí)踐產(chǎn)生了重大影響。越來越多的組織采用了關(guān)切應(yīng)用程序和服務(wù)對(duì)環(huán)境和資源消耗的影響的定價(jià)模式。這種趨勢(shì)鼓勵(lì)組織做出優(yōu)先考慮效率和可持續(xù)性的架構(gòu)選擇。托管服務(wù)受到組織的青睞,因?yàn)樗鼈兲峁┝藘?yōu)化的資源利用率和可伸縮性,使企業(yè)能夠降低能耗,減少碳足跡。對(duì)架構(gòu)定價(jià)的考量和對(duì)托管服務(wù)的采用與可持續(xù)性和綠色計(jì)算目標(biāo)是對(duì)齊的。

關(guān)于責(zé)任,人們存在一種認(rèn)識(shí),即解決可持續(xù)性問題屬于站點(diǎn)可靠性工程(SRE)及相關(guān)角色的范疇。這些團(tuán)隊(duì)善于分析技術(shù)決策對(duì)環(huán)境的影響,并推動(dòng)可以促進(jìn)效率和可持續(xù)性提升的舉措?,F(xiàn)在,架構(gòu)討論包含了組件化、隔離、安全和成本效益等方面的考慮。組織正在評(píng)估他們的需求,并尋求能夠滿足安全需求但又不涉及非必要高昂成本的折中解決方案。這反映了組織正在向更加務(wù)實(shí)的安全性發(fā)生轉(zhuǎn)變,試圖找到企業(yè)級(jí)特性和成本效益之間的平衡。

我們對(duì)云計(jì)算和 DevOps 領(lǐng)域的 未來有怎樣的預(yù)測(cè)?

專家們對(duì)云計(jì)算和 DevOps 領(lǐng)域未來的預(yù)測(cè)主要與簡化、降低認(rèn)知負(fù)擔(dān)和專注創(chuàng)新有關(guān)。我們熱切希望能夠簡化流程和工具,讓團(tuán)隊(duì)能夠?qū)W⒂谒麄兲囟ǖ膶I(yè)領(lǐng)域并最大化他們的影響力。

AIOps、平臺(tái)工程、可持續(xù)性和 FinOps 的融合是一種積極的轉(zhuǎn)變,可能會(huì)讓團(tuán)隊(duì)更專注、更有效和更愉快。這里的挑戰(zhàn)在于要區(qū)分炒作和真正的機(jī)會(huì),承認(rèn)新興趨勢(shì)中的“價(jià)值點(diǎn)”,同時(shí)對(duì)“過度夸大”和廣泛適用性的說法保持批判的態(tài)度。

開源技術(shù)的采用、由 OpenTelemetry 和 CloudEvents 等促進(jìn)的標(biāo)準(zhǔn)化,以及 Copilot 和 ChatGPT 等 AI 融合服務(wù)的潛力,都是令人感興趣的點(diǎn)??偠灾藗儗?duì)正在發(fā)生的演進(jìn)和它們帶來的機(jī)會(huì)充滿了熱情。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 云計(jì)算
    +關(guān)注

    關(guān)注

    39

    文章

    7848

    瀏覽量

    137657
  • 語言模型
    +關(guān)注

    關(guān)注

    0

    文章

    533

    瀏覽量

    10306
  • devops
    +關(guān)注

    關(guān)注

    0

    文章

    116

    瀏覽量

    12044

原文標(biāo)題:DevOps 是否已死?AI 和大語言模型給云計(jì)算和 DevOps 帶來了哪些影響?|InfoQ 趨勢(shì)報(bào)告

文章出處:【微信號(hào):AI前線,微信公眾號(hào):AI前線】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    科技報(bào)到:從大模型到云端,“AI+計(jì)算”還能講出什么新故事

    科技報(bào)到:從大模型到云端,“AI+計(jì)算”還能講出什么新故事
    的頭像 發(fā)表于 01-07 13:27 ?101次閱讀

    語言模型管理的作用

    要充分發(fā)揮語言模型的潛力,有效的語言模型管理非常重要。以下,是對(duì)語言模型管理作用的分析,由
    的頭像 發(fā)表于 01-02 11:06 ?99次閱讀

    【「大模型啟示錄」閱讀體驗(yàn)】對(duì)大模型更深入的認(rèn)知

    能在教育、設(shè)計(jì)、游戲、廣告等領(lǐng)域發(fā)揮如此重要的作用。這些內(nèi)容讓我對(duì)大模型的潛力充滿了期待,也讓我對(duì)AI技術(shù)的未來充滿了好奇。 書中還提到了大模型DevOps的結(jié)合,以及它們?nèi)绾翁岣哕?/div>
    發(fā)表于 12-20 15:46

    AI語言模型開發(fā)步驟

    開發(fā)一個(gè)高效、準(zhǔn)確的大語言模型是一個(gè)復(fù)雜且多階段的過程,涉及數(shù)據(jù)收集與預(yù)處理、模型架構(gòu)設(shè)計(jì)、訓(xùn)練與優(yōu)化、評(píng)估與調(diào)試等多個(gè)環(huán)節(jié)。接下來,AI部落小編為大家詳細(xì)闡述
    的頭像 發(fā)表于 12-19 11:29 ?175次閱讀

    語言模型開發(fā)框架是什么

    語言模型開發(fā)框架是指用于訓(xùn)練、推理和部署大型語言模型的軟件工具和庫。下面,AI部落小編為您介紹大語言
    的頭像 發(fā)表于 12-06 10:28 ?160次閱讀

    語言模型開發(fā)語言是什么

    在人工智能領(lǐng)域,大語言模型(Large Language Models, LLMs)背后,離不開高效的開發(fā)語言和工具的支持。下面,AI部落小編為您介紹大
    的頭像 發(fā)表于 12-04 11:44 ?183次閱讀

    使用vLLM+OpenVINO加速大語言模型推理

    隨著大語言模型的廣泛應(yīng)用,模型計(jì)算需求大幅提升,帶來推理時(shí)延高、資源消耗大等挑戰(zhàn)。
    的頭像 發(fā)表于 11-15 14:20 ?499次閱讀
    使用vLLM+OpenVINO加速大<b class='flag-5'>語言</b><b class='flag-5'>模型</b>推理

    AI模型在自然語言處理中的應(yīng)用

    AI模型在自然語言處理(NLP)中的應(yīng)用廣泛且深入,其強(qiáng)大的語義理解和生成能力為NLP任務(wù)帶來了顯著的性能提升。以下是對(duì)AI
    的頭像 發(fā)表于 10-23 14:38 ?577次閱讀

    如何理解計(jì)算?

    ,支持訓(xùn)練和部署復(fù)雜的人工智能和機(jī)器學(xué)習(xí)模型。用戶可以使用計(jì)算平臺(tái)來開發(fā)和部署智能語音識(shí)別、圖像識(shí)別、自然語言處理等應(yīng)用。 **物聯(lián)網(wǎng):**
    發(fā)表于 08-16 17:02

    AI模型與傳統(tǒng)AI的區(qū)別

    AI模型(如LLM,即大型語言模型)與傳統(tǒng)AI在多個(gè)方面存在顯著的區(qū)別。以下將從技術(shù)層面、應(yīng)用場景、性能表現(xiàn)、
    的頭像 發(fā)表于 07-15 11:37 ?3008次閱讀

    LLM之外的性價(jià)比之選,小語言模型

    ? 電子發(fā)燒友網(wǎng)報(bào)道(文/周凱揚(yáng))大語言模型的風(fēng)靡AI應(yīng)用創(chuàng)造了不少機(jī)會(huì),無論是效率還是創(chuàng)意上,大語言
    的頭像 發(fā)表于 06-03 05:15 ?2283次閱讀
    LLM之外的性價(jià)比之選,小<b class='flag-5'>語言</b><b class='flag-5'>模型</b>

    阿里 all in AI 的決心

    的迭代進(jìn)化離不開計(jì)算的支撐,而大模型的落地應(yīng)用,計(jì)算勾勒了一個(gè)比移動(dòng)互聯(lián)網(wǎng)更具想象力的新世
    的頭像 發(fā)表于 05-17 08:04 ?323次閱讀
    阿里<b class='flag-5'>云</b> all in <b class='flag-5'>AI</b> 的決心

    【大語言模型:原理與工程實(shí)踐】大語言模型的應(yīng)用

    問題時(shí),即使輸入不同的提示詞,大語言模型也可能產(chǎn)生截然不同的結(jié)果,這體現(xiàn)了其高度的靈活性和創(chuàng)造性。然而,這種靈活性也帶來了一定的挑戰(zhàn)。由于自然語言的模棱兩可和提示工程的新生性質(zhì),當(dāng)嘗試
    發(fā)表于 05-07 17:21

    【大語言模型:原理與工程實(shí)踐】大語言模型的基礎(chǔ)技術(shù)

    特定任務(wù)對(duì)模型進(jìn)行微調(diào)。這種方法的成功不僅是自然語言處理發(fā)展的一個(gè)轉(zhuǎn)折點(diǎn),還為許多現(xiàn)實(shí)世界的應(yīng)用場帶來了前所未有的性能提升。從廣為人知的GPT到BERT,預(yù)訓(xùn)練的模型參數(shù)量越來越大預(yù)訓(xùn)
    發(fā)表于 05-05 12:17

    【大語言模型:原理與工程實(shí)踐】揭開大語言模型的面紗

    用于文本生成,根據(jù)提示或上下文生成連貫、富有創(chuàng)造性的文本,為故事創(chuàng)作等提供無限可能。大語言模型也面臨挑戰(zhàn)。一方面,其計(jì)算資源需求巨大,訓(xùn)練和推理耗時(shí);另一方面,模型高度依賴數(shù)據(jù),需要大
    發(fā)表于 05-04 23:55