0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

Prompt Sapper:基礎(chǔ)模型的靈魂伴侶,AI服務(wù)的創(chuàng)新工場

vliwulianw ? 來源:軟件質(zhì)量報道 ? 2023-05-22 14:45 ? 次閱讀

【編者:本文發(fā)布得到作者的授權(quán)。作者來自澳大利亞 Data61 的 SE4AI 團隊和江西師范大學智能化軟件工程實驗室,他們聯(lián)合打造了全球首款 AI 鏈(AI chain)無代碼生產(chǎn)平臺 Prompt Sapper,及相應(yīng)的方法學和 AI 服務(wù)市場?;A(chǔ)模型(foundation models)帶來了前所未有的 AI “操作系統(tǒng)” 效應(yīng)和全新的人工智能交互方式,激發(fā)了 AI 服務(wù)開發(fā)與應(yīng)用的創(chuàng)新之潮。Prompt Sapper 應(yīng)勢而生,致力于重塑軟件領(lǐng)域格局,打造人與 AI 協(xié)作智能的平臺,以釋放每個人的 AI 創(chuàng)新潛能,創(chuàng)造人人皆 AI 創(chuàng)新大師的未來!】

AI 服務(wù)代表了一種我們稱為構(gòu)建在基礎(chǔ)模型之上的 AI 鏈(AI Chain)應(yīng)用。AI 鏈應(yīng)用是一種新型的軟件產(chǎn)品,他們按照特定的工作流程組裝多次基礎(chǔ)模型調(diào)用(也可能同時調(diào)用傳統(tǒng)機器學習模型,外部數(shù)據(jù)或 APIs),從而提供某種特定的 AI 服務(wù)。

這些基礎(chǔ)模型包括當前非常熱門的生成式預(yù)訓練大語言模型比如 GPT-4、圖像生成模型 DALL-E 等。我們可以將這些基礎(chǔ)模型類看作 AI “操作系統(tǒng)”,就如同個人電腦時代的 Windows、Linux 和 MacOS,以及移動應(yīng)用時代的 iOSAndroid。正如我們曾經(jīng)調(diào)用傳統(tǒng)操作系統(tǒng) APIs 開發(fā)軟件應(yīng)用和服務(wù),如今我們可以通過組裝對基礎(chǔ)模型的多次調(diào)用來開發(fā) AI 應(yīng)用和服務(wù)。

d26193fe-f7d9-11ed-90ce-dac502259ad0.png

基礎(chǔ)模型解鎖軟件 3.0

然而,如上圖所示, 傳統(tǒng)操作系統(tǒng)調(diào)用和基礎(chǔ)模型調(diào)用之間存在一個本質(zhì)區(qū)別。即使自然語言是我們表達需求的最自然方式,在軟件 1.0/2.0 范式中,人們不得不使用計算機語言(如 Java、Python、JavaScript 等)與計算機交互,專注于解決問題(算法,數(shù)據(jù),模型架構(gòu),特征等)?,F(xiàn)在,一切發(fā)生了翻天覆地的變化!基礎(chǔ)模型為我們解鎖了軟件 3.0 范式,一種全新的自然語言編程方式 — 提示編程 ,以及基于提示編程的 AI 鏈工程(和作者溝通,作者也認可,“軟件3.0” 稱之為“軟件工程3.0” 更準確些)。在軟件 3.0 范式中,人們可以用自然語言描述他們需要解決的問題,而基礎(chǔ)模型則能理解并執(zhí)行這些自然語言指令。這一進步讓人們能夠以更直觀、更自然的方式與 AI 互動,進一步拓寬了我們在創(chuàng)新和解決問題上的可能性,將 AI 的力量帶給了更廣泛的受眾,實現(xiàn)了 AI 平民化的愿景。

軟件 3.0 優(yōu)勢在于為人們帶來前所未有的 AI 交互體驗和智能應(yīng)用。但我們相信,軟件 3.0 并不會完全取代軟件 1.0/2.0。相反,這三種范式將在未來相互補充并共存。在各自的優(yōu)勢領(lǐng)域,它們將發(fā)揮各自的作用,共同推動技術(shù)進步和創(chuàng)新。這種協(xié)同發(fā)展有望讓我們更好地解決復雜問題,釋放更多的創(chuàng)新潛能。我們的 Sapper IDE 支持三種范式的工作者(worker),詳情見 “提示客劍譜”(Promptmanship)。

AI 2.0(基礎(chǔ)模型)賦能軟件 3.0(提示編程 + AI 鏈工程)

d29ae3d4-f7d9-11ed-90ce-dac502259ad0.png

機器學習和軟件工程演化

如上圖所示,機器學習技術(shù)的發(fā)展經(jīng)歷了從最早期的特征工程、神經(jīng)網(wǎng)絡(luò)架構(gòu)工程,到預(yù)訓練微調(diào)范式的目標工程,再到近期的提示 / AI 鏈工程的演進。盡管神經(jīng)網(wǎng)絡(luò)和預(yù)訓練微調(diào)正在逐漸降低利用 AI 的門檻,但人們?nèi)匀幻媾R著單領(lǐng)域、多模型孤島效應(yīng)的挑戰(zhàn)。也就是說,AI 1.0 時代缺乏一個 AI “操作系統(tǒng)” 模型來支持 AI 應(yīng)用的開發(fā)、組裝和生態(tài)系統(tǒng)。

而基礎(chǔ)模型則具備跨領(lǐng)域知識,能夠通過情景學習(in-context learning)適應(yīng)各種復雜的任務(wù),為我們帶來了期待已久的 AI “操作系統(tǒng)” 平臺。

李開復將這一平臺化的 AI 稱為 AI 2.0。他認為,聊天工具和圖文創(chuàng)作僅僅是 AI 2.0 的冰山一角,我們不應(yīng)限制對 AI 2.0 潛力的想象?;A(chǔ)模型推動了自然的人與 AI 交互方式,開啟了軟件工程領(lǐng)域嶄新的一頁 ——軟件 3.0 時代。在這個時代中,以提示編程和 AI 鏈應(yīng)用為核心,我們將迎來更加開放和民主的 AI 服務(wù)開發(fā)和應(yīng)用環(huán)境。Andrej Karpathy 認為,新興的提示編程具有將 “程序員” 人數(shù)擴大到 15 億的潛力。在就業(yè)市場上,出現(xiàn)了諸如 “AI 提示工程師”、“法律提示工程師” 等職位,預(yù)示著這一發(fā)展趨勢正在成為現(xiàn)實。

AI 鏈工程(SE4AIChain): 愿景與目標

d2cc6044-f7d9-11ed-90ce-dac502259ad0.png

我們的愿景是通過生成式 AI 重塑軟件格局。我們正處在將基礎(chǔ)模型的能力演變成人工智能助手的構(gòu)建階段,這個階段存在兩個非常現(xiàn)實的機會:1. 讓人人能夠創(chuàng)建個性化的智能體,2. 讓人們可以分享和雇傭智能體服務(wù)。這樣可以讓更廣泛大眾參與到 AI 大潮并從中受益。基礎(chǔ)模型和提示編程具有廣闊的前景,然而當前的提示編程狀態(tài)就像 60 多年前軟件工程出現(xiàn)前個人英雄主義式的編程一樣。基于基礎(chǔ)模型的 AI 服務(wù)開發(fā)遠遠超出僅僅寫出耀眼的提示詞,這就像系統(tǒng)化軟件工程和隨意編程之間的差別一樣。

因此,我們致力于打造一套系統(tǒng)的 AI 鏈工程基礎(chǔ)設(shè)施作為基礎(chǔ)模型的靈魂伴侶,重塑軟件領(lǐng)域格局,以釋放 AI 2.0 的全部潛力。我們的 AI 鏈工程基礎(chǔ)設(shè)施是一套 AI4SE4AI 框架(AI-powered software engineering infrastructure for AI),包括一套系統(tǒng)的 AI 鏈工程方法,我們稱之為 “提示客劍譜”,以及相應(yīng)的開發(fā)和部署工具,作為這個方法論的配套兵器。

為實現(xiàn)這個愿景,我們提出了以下三個目標:

第一,從軟件工程的視角總結(jié)泛化提示工程的最佳實踐,將提示工程置于軟件工程的整體框架下,補充被忽視的重要軟件工程方法(例如軟件過程,系統(tǒng)設(shè)計,測試),從而形成系統(tǒng)化的 AI 鏈方法論(第一版已發(fā)布)。

第二,研發(fā) AI 鏈集成開發(fā)環(huán)境,支持從想法到服務(wù)的全過程 AI 鏈開發(fā),并通過物化 AI 鏈方法論,為普通人開發(fā)高質(zhì)量 AI 服務(wù)提供 “潤物細無聲” 的支持(第一版已上線)。

第三,研發(fā) AI 服務(wù)市場,推進 AI 服務(wù)生態(tài)系統(tǒng)的發(fā)展,并研發(fā)負責任的 AI 鏈工程方法和技術(shù),以增強 AI 服務(wù)的透明性、責任性和安全性(AI 服務(wù)市場 beta 版已上線)。

我們致力于建立一個開放、協(xié)作、安全、可持續(xù)的 AI 鏈生態(tài)系統(tǒng),為千行百業(yè)提供數(shù)字化、智能化轉(zhuǎn)型升級的支持,讓他們在 AI 新時代中發(fā)揮自己的創(chuàng)造力和智慧,并從中獲益,實現(xiàn)人機共生的美好愿景。

Promptmanship(提示客劍譜):為 AI 鏈應(yīng)用量身定制的軟件工程方法

軟件工程在幾十年的發(fā)展中積累了大量有效的方法和實踐,其中許多理念和經(jīng)驗可以被應(yīng)用到 AI 鏈工程中。然而,隨著基礎(chǔ)模型帶來的人與 AI 交互方式的變革,我們需要審視和調(diào)整傳統(tǒng)的軟件工程方法和實踐,以適應(yīng)新興的以人為中心的自然語言編程范式。

一方面,大語言模型(如 GPT-4)編碼了海量知識并具備強大的對話能力,我們可以利用它們來幫助 AI 鏈工程師獲得任務(wù)知識、理解問題以及獲得解決問題的靈感。同時,為減輕大語言模型難以避免的錯誤和幻覺的影響,我們需要對模型能力有足夠深入的理解(所謂 mechanical sympathy),并采用有效的提示設(shè)計。

另一方面,大語言模型不僅改變了誰可以開發(fā) AI 服務(wù),而且深刻地改變了可以開發(fā)哪些 AI 服務(wù)。這需要我們將過去以代碼為中心的開發(fā)工具轉(zhuǎn)變?yōu)橐匀藶橹行牡墓ぞ?,使普通人可以專注于解決問題,更直觀地分析、設(shè)計、搭建和評估 AI 鏈。

d30c5118-f7d9-11ed-90ce-dac502259ad0.png

Promptmanship(提示客劍譜):為 AI 鏈應(yīng)用量身定制的軟件工程方法

因此,AI 鏈工程需要在傳統(tǒng)軟件工程方法和實踐的基礎(chǔ)上,結(jié)合大語言模型的優(yōu)勢,發(fā)展出一套更適應(yīng)以人為中心的自然語言編程范式的開發(fā)方法和工具,以提高 AI 鏈的開發(fā)效率和質(zhì)量。上圖展示了我們基于大量文獻、社區(qū)分享經(jīng)驗以及我們自身實踐而提出的 AI 鏈工程方法學。

我們將 AI 鏈的功能單元定義為 “工作者”(worker)。AI 鏈除了涉及傳統(tǒng)軟件概念(例如需求、對象組合與協(xié)作、對象角色),還包括 AI 鏈特有的概念。例如,我們區(qū)分了三種工作者類型(對應(yīng)三種軟件范式:Software 1.0/2.0/3.0)、四層推理能力遞增的工作者 - AI 交互模式,工作者構(gòu)型(worker stereotype),以及提示設(shè)計模式。

我們認為 AI 鏈工程是一個快速原型(Rapid Prototyping)的過程,包括四個迭代階段:探索、設(shè)計、構(gòu)建和部署。每個階段都包括并發(fā)的活動(受統(tǒng)一軟件過程(Rational Unified Process)啟發(fā)),包括任務(wù)建模、系統(tǒng)設(shè)計(需求分析,任務(wù)分解、AI/non-AI 關(guān)注點分離、工作流演練)、AI 鏈實現(xiàn)和測試,但不同階段有不同的側(cè)重(由相應(yīng)條高度展示)。不同活動會生成或者精化不同的 AI 鏈概念(有概念下方藍色區(qū)間展示)。與所有活動伴生,我們提出了一個 “魔法增強魔法” 的活動,利用大語言模型的知識和對話能力,幫助 AI 鏈工程師獲取任務(wù)知識、進行需求獲取和分析,并獲得對模型能力的理解(mechanical sympathy)。

d34ce16a-f7d9-11ed-90ce-dac502259ad0.png

在 AI 鏈中,軟件 3.0 工作者的 “大腦” 就是他的自然語言提示。這些提示需要清晰地定義工作者的角色和功能。有效的提示需要創(chuàng)造力和實驗,但與傳統(tǒng)編程一樣,可以通過慣用語和模式進行改進。大量文獻和博客提出了許多提示技巧?;谶@些提示技巧和我們自身的實戰(zhàn)經(jīng)驗,我們總結(jié)出了四個方面的提示設(shè)計模式(見上表):工作者構(gòu)型,提示注意事項,提示設(shè)計方面,和提示裝飾。

工作者構(gòu)型:我們定義了九種工作者元角色:輸入重寫器、分割器、逆向提問人、規(guī)劃師、信息詢問者、執(zhí)行官、匯總器、狀態(tài)檢測儀和驗證器。為了提高 AI 鏈和工作者的可調(diào)試性、重用性和組裝性,我們建議每個工作者遵循單一功能原則,擔任一個獨特的角色。當然,一個工作者可以同時兼具多個角色,但需要注意的是,一身多則的工作者可能成為 “史詩” 級的工作者,不僅什么都干不好,而且很難優(yōu)化和控制。

提示注意事項:包括三個會影響提示性能的通用事項:Grice 會話原則、術(shù)語解釋、提示委員會。

提示設(shè)計方面:需要考慮語境(包括輸入、術(shù)語解釋、擬人化,和其他限定等)、指令、示例、輸出格式以及內(nèi)容形式(自由文本、半結(jié)構(gòu)化文本、代碼風格文本)。對于功能簡單的工作者,他們并不需要包括所有方面,比如簡單加法問題可以把輸入數(shù)字放到問題中(例如,“請計算 5+2” 或者 “5+2 等于幾?”),也不需要語境、示例和輸出格式。但對于功能復雜的工作者,最好以半結(jié)構(gòu)化甚至代碼形式區(qū)分表述不同設(shè)計方面和信息。除此之外,指令可以包括一定的控制邏輯,但復雜控制邏輯最好以明確的協(xié)作工作者和工作流方式表示。

提示裝飾:不是工作者核心功能,但他們可以通過 “大聲思考” 方式提升模型推理能力(自問自答、反思),或是更好地定制模型行為和輸出(擬人化、語境控制)。

我們想提醒大家,這些提示模式并不能替代創(chuàng)造力和實驗。此外,他們只是戰(zhàn)術(shù)層面的優(yōu)化。對于難度較大的任務(wù),往往需要考慮到戰(zhàn)略層面的 AI 鏈系統(tǒng)設(shè)計。

AI 鏈生產(chǎn)平臺(Sapper IDE)

d39188d8-f7d9-11ed-90ce-dac502259ad0.gif

我們的 AI 鏈生產(chǎn)平臺將不同于現(xiàn)有以代碼為中心的開發(fā)環(huán)境,因為 AI 鏈將由很多沒有計算機和編程背景的人開發(fā)。因此,我們的最高設(shè)計準則是 “以人為本”,體現(xiàn)在三個方面:

首先,我們將 “提示客劍譜”(AI 鏈工程方法學)無縫地物化到 Sapper IDE 中,使任何人都能有效地應(yīng)用最佳 AI 鏈實踐和方法。

其次,我們充分利用大語言模型的知識和對話能力,開發(fā)智能副駕駛(co-pilots),為非技術(shù)人員提供全過程 AI 鏈開發(fā)支持。

第三,我們提供全過程無代碼 AI 鏈分析、設(shè)計、開發(fā)和部署,讓任何人都能輕松將創(chuàng)意轉(zhuǎn)化為 AI 服務(wù)。

我們的 AI 鏈 IDE 可謂是 “AI 服務(wù)的孵化器”,因為它的主要功能就是站在基礎(chǔ)模型的巨人肩膀上打造 AI 服務(wù)。這些服務(wù)不僅可以直接滿足人們的 AI 鏈開發(fā)需求,還能啟發(fā)他們?nèi)ヌ剿鞲嗫赡苄?,并幫助他們?chuàng)造出更多更優(yōu)秀的 AI 服務(wù)。我們相信,這將會是一個 AI 創(chuàng)新無限的時代,我們的 Sapper IDE 將成為千行百業(yè)開啟這一無限潛力的 “工兵鐵鍬”!

我們在Sapper IDE已開發(fā)或正在開發(fā)多樣的AI服務(wù)演示,涉及教育,職業(yè)培訓,創(chuàng)意寫作,游戲,軟件工程等多個領(lǐng)域。我們也歡迎社區(qū)用Prompt Sapper創(chuàng)作更多的創(chuàng)意AI服務(wù),并分享到我們的AI服務(wù)市場。探索視圖(Exploration View)

d45a5b64-f7d9-11ed-90ce-dac502259ad0.gif

探索視圖支持任務(wù)探索和初步設(shè)計階段的活動,允許用戶獲得大致的任務(wù)模型,了解任務(wù)挑戰(zhàn),以及初步了解任務(wù)步驟、工作流、輸入 / 輸出數(shù)據(jù)和提示有效性。

如圖所示,探索視圖的左側(cè)部分是一個聊天機器人(目前封裝 GPT-3.5 API),其工作方式與普通聊天機器人(例如,ChatGPT )相同。聊天機器人允許用戶與大型語言模型(LLM)進行任何類型的對話。當然,我們假設(shè)用戶將圍繞他們需要開發(fā)的 AI 服務(wù)進行交談。與普通聊天機器人不同,探索視圖配備了一個基于 LLM(大型語言模型)的副駕駛員,該副駕駛員會自動收集和分析用戶與 LLM 之間的對話,以獲取可能與后續(xù) AI 鏈分析、設(shè)計和開發(fā)相關(guān)的任務(wù)背景(例如,所需要的功能、用戶偏好、需要避免的事項等)。這個副駕駛員本身就是是基于 LLM(目前為 GPT-3.5)構(gòu)建的 AI 鏈服務(wù)。它以一種不干預(yù)的方式工作,并根據(jù)用戶和 LLM 之間的對話動態(tài)記錄筆記,如圖右側(cè)的 Task Note 面板所示。

設(shè)計視圖(Design View)

d4c7b650-f7d9-11ed-90ce-dac502259ad0.gif

設(shè)計視圖支持設(shè)計階段的主要活動,并在探索和構(gòu)建階段之間起到承上啟下的重要作用。因此,它具有兩個主要功能:需求分析和 AI 鏈框架生成,分別由兩個基于 LLM 的副駕駛員提供支持。與探索視圖中的非干預(yù)式副駕駛員不同,設(shè)計視圖中的兩個副駕駛員會積極與用戶互動,協(xié)助他們進行需求分析和 AI 鏈框架生成。

需求分析

設(shè)計視圖的左側(cè)是一個基于 LLM 的需求分析聊天機器人(另一個 AI 鏈服務(wù))。與探索視圖中的自由式聊天機器人不同,需求分析聊天機器人充當不間斷的逆向提問者角色,他的工作方式如下:

1) 用戶在詢問框中輸入任務(wù)描述(通常是對所需內(nèi)容的模糊描述)以開始對話。

2) 需求分析聊天機器人根據(jù)初始任務(wù)描述和探索視圖中收集的任務(wù)筆記(如果有),通過一系列開放式問題引導用戶明確具體任務(wù)需求。

3) 需求分析聊天機器人會將用戶每輪的回應(yīng)逐步整合到任務(wù)描述中(顯示在右上角的任務(wù)需求框里)。

當然,如果用戶認為他已經(jīng)有了明確的需求,不需要需求分析聊天機器人的幫助,他可以直接在任務(wù)需求框中輸入需求。

AI 鏈框架生成

當用戶認為任務(wù)需求已經(jīng)清晰明確時,可以點擊任務(wù)需求框下方的 “Generate AI Chain Skeleton” 按鈕,請求 AI 鏈框架生成副駕駛生成完成任務(wù)所需的主要步驟以及每個步驟的三個候選提示?!癎enerate AI Chain Skeleton” 工作方式如下:

1) 將任務(wù)總體描述轉(zhuǎn)換為主要步驟,并為每個步驟提供名稱和描述。

2) 為每個步驟推薦三個候選提示,用戶可以在此基礎(chǔ)上自行修改。

3) 用戶可以手動添加控制流、刪除或重新排序步驟等操作。

4) 用戶可以使用結(jié)構(gòu)化表單編輯生成的提示,設(shè)置步驟的輸入和執(zhí)行引擎。

通過這個流程,用戶可以方便地生成 AI 鏈的框架,以及對生成的框架進行進一步的修改和完善。最后點擊設(shè)計視圖右下角的 “Generate AI Chain” 按鈕,SapperIDE 將根據(jù) AI 鏈框架自動為每個步驟創(chuàng)建工作者并把他們組裝一個基于積木塊的 AI 鏈,可以在編程視圖中查看、編輯和執(zhí)行。

編程視圖(Block View)

d5183f94-f7d9-11ed-90ce-dac502259ad0.gif

我們使用基于積木塊的可視化編程來支持 AI 鏈的實現(xiàn)、執(zhí)行和調(diào)試。當前的實現(xiàn)是基于開源的 Blockly 項目。在左側(cè)面板中,用戶可以訪問 Units、Code、Prompts、Variables 和 Engines 工具箱中的積木塊用以構(gòu)建 AI 鏈。相關(guān)積木塊介紹請訪問我們的文檔

(https://www.aichain.online/public/content%20pages/sapperide/blockview.html)。

為了使用戶建立和修改工作者更加直觀,所有可視化編程操作都可以直接在工作者 / 容器塊上觸發(fā)。單擊插槽右側(cè)的 “+” 圖標可以直接添加或編輯插槽對應(yīng)的積木塊。用戶可以從工具箱中拖放塊模板將塊添加到 AI 鏈編輯器中,通過在編輯器中拖放塊來組裝塊。用戶可以通過單擊編輯器右側(cè)的 “+”、“-” 和 “aim” 按鈕來縮放編輯器或?qū)⑺x塊放置在編輯器中心。

用戶可以通過 “AI Chain Execution” 菜單運行或調(diào)試 AI 鏈。當工作者正在運行時,工作者塊左上角的 “bug” 信號燈將亮起。工作者執(zhí)行期間使用的實際提示和引擎輸出將輸出到塊控制臺(Block Console)。執(zhí)行所需的用戶輸入將在塊控制臺中輸入。

在調(diào)試模式下,工作者將一個接一個地執(zhí)行。當前工作者完成運行時,執(zhí)行將被暫停,用戶可以檢查塊控制臺中的輸出是否符合預(yù)期。如果結(jié)果符合預(yù)期,則可以繼續(xù)執(zhí)行下一個工作者。或者,用戶可以在提示控制臺(Prompt Console)中修改當前工作者的提示,然后重新運行當前工作者。

如果將工作者塊放置在輸出塊中,則其輸出將顯示在右下角的輸出窗口中。此窗口不會顯示未放置在輸出塊中的工作者的輸出,也不會顯示提示。

塊控制臺用于幫助 AI 鏈工程師調(diào)試 AI 鏈,因此包含提示信息和中間執(zhí)行結(jié)果。右下角的輸出窗口允許工程師檢查最終用戶將看到的 AI 鏈輸出。

提示中心(Prompt Hub)

d568b24e-f7d9-11ed-90ce-dac502259ad0.gif

Sapper IDE 的 Prompt Hub(提示中心)提供了一個集中式的提示管理系統(tǒng),讓用戶在 AI 鏈項目之間輕松共享和重用提示。通過 Prompt Builder(提示生成器)和 Prompt Base(提示庫)工具箱,用戶能創(chuàng)建、編輯、導入和導出提示,使 AI 鏈項目開發(fā)更高效、便捷。

用戶可以通過四個方面:上下文、指令、示例和輸出格式,以結(jié)構(gòu)化方式創(chuàng)建或編輯提示。這有助于實現(xiàn)更準確的 AI 鏈項目功能。未來的設(shè)計視圖將允許用戶搜索提示庫或獲得自動提示推薦,進一步提高開發(fā)效率。

Prompt Hub 還支持將提示下載到本地文件或從本地文件上傳到 IDE,方便在不同設(shè)備間同步提示信息。

引擎管理(Engine Management)

d5b8ccac-f7d9-11ed-90ce-dac502259ad0.gif

引擎管理功能讓用戶在 AI 鏈項目之間輕松共享和重用各類引擎,如基礎(chǔ)模型、傳統(tǒng)機器學習模型(目前在開發(fā)中,敬請期待)和外部 API。IDE 內(nèi)置了三個基礎(chǔ)模型:gpt-3.5-turbo、text-davinci-003、DALL-E,以及 Python 標準 REPL shell。

在 FM Engines(基礎(chǔ)模型引擎)工具箱中,用戶可靈活創(chuàng)建和配置基礎(chǔ)模型引擎,調(diào)整參數(shù)如 Temperature、Maximum length、Top P、Frequency penalty 和 Presence penalty。點擊 “Save Engine to FM Engine”,將引擎保存以供后續(xù)編輯或?qū)С龅巾椖俊?/p>

最后,用戶還可將引擎信息下載至本地文件,或從本地文件上傳至 IDE。

AI 鏈項目管理(Project Management)

d5f0dc32-f7d9-11ed-90ce-dac502259ad0.gif

通過 “Project Management” 菜單,用戶可創(chuàng)建新的 AI 鏈項目,將當前項目下載到本地磁盤,或在 IDE 中打開本地磁盤上的項目。點擊 “Download Code” 按鈕,用戶可將實現(xiàn) AI 鏈的后臺代碼下載至本地磁盤,用于其他軟件項目。注意,執(zhí)行下載的 AI 鏈代碼需要 sapperchain Python 庫(目前未開源)。

在“Recent Project”菜單,我們預(yù)裝了一個演示項目“Hui Xiao Shi”以便于大家上手學習。

用戶若想開源他的 AI 鏈項目,可將項目分享至 AI 鏈市場(正在開發(fā))。IDE 提供了一個創(chuàng)意副駕駛員,根據(jù)任務(wù)需求和工作者提示為項目生成簡短描述和圖片。

現(xiàn)在,IDE 支持將 AI 鏈作為本地 Web 服務(wù)部署,便于手動部署到外部云服務(wù)器。后續(xù)我們將推出自動云服務(wù)部署功能。

IDE 功能演示教程

Prompt Sapper 的與眾不同之處

Prompt Sapper 受很多優(yōu)秀項目和工具的啟發(fā),比如 ChatGPT, AutoGPT, LangChain, no-code AI,以及大量 prompt engineering 文獻和工具。但我們與眾不同之處在于以下三點:

d643cfe6-f7d9-11ed-90ce-dac502259ad0.png

人與 AI 交互光譜

1. 強調(diào)人工智能和人類用戶之間的協(xié)作智能。如上圖所示,它通過 AI 鏈無縫地將人類智能與人工智能融合,有效地解決復雜問題并實現(xiàn)共同目標。這種協(xié)作智能促進了整體效率的提高,降低了錯誤率,并賦予了人類用戶充分利用人工智能潛力的能力。這種獨特的方法使 Prompt Sapper 區(qū)別于現(xiàn)有的人類驅(qū)動的對話機器人(例如 ChatGPT)和以人工智能為主導的代理框架(例如 AutoGPT),凸顯了它的創(chuàng)新和獨特的價值主張。

2. 對計算和編程技能的更低要求。Prompt Sapper 顯著降低了創(chuàng)建符合用戶需求的復雜人工智能服務(wù)的門檻。它引入了一套基于 LLM 的虛擬產(chǎn)品經(jīng)理、架構(gòu)師和提示工程師,以幫助用戶獲取領(lǐng)域知識、分析任務(wù)要求并構(gòu)建 AI 鏈。此外,Prompt Sapper 提供直觀且用戶友好的界面,使用戶可以輕松地與人工智能進行交互,并在不需要高級計算或編程技能的情況下原型化 AI 功能。這種方法擴大了從人工智能進步中受益的人群,突顯了 Prompt Sapper 在人工智能領(lǐng)域中的獨特地位。

3. 系統(tǒng)的 AI4SE4AI 框架。Prompt Sapper 高度重視軟件工程和人工智能的緊密集成,致力于創(chuàng)建一個系統(tǒng)化的 AI4SE4AI 框架。在這個框架內(nèi),Prompt Sapper 利用人工智能技術(shù),顯著提高軟件工程過程的效率,例如需求分析、AI 鏈設(shè)計、構(gòu)建和測試。同時,Prompt Sapper 遵循和擴展了軟件工程的最佳實踐,以適應(yīng)由 AI 2.0 和軟件 3.0 推動的新軟件環(huán)境。這個 AI4SE4AI 框架不僅大大提高了人工智能服務(wù)的開發(fā)效率和項目質(zhì)量,還支持靈活的服務(wù)重用和組裝,以及持續(xù)改進和優(yōu)化人工智能服務(wù),以滿足不斷變化的需求。

下面表格總結(jié)了 Prompt Sapper 與重要相關(guān)技術(shù)的對比,詳情請參閱我們的文檔(https://www.aichain.online/public/content%20pages/sappervsothers.html)

d6602b64-f7d9-11ed-90ce-dac502259ad0.png

AutoGPT vs. Prompt Sapper

d6809016-f7d9-11ed-90ce-dac502259ad0.png

LangChain vs. Prompt Sapper

d6a91d38-f7d9-11ed-90ce-dac502259ad0.png

No-code AI vs. Prompt Sapper

d6c17126-f7d9-11ed-90ce-dac502259ad0.png

Prompt Engineering vs. Prompt Sapper

d6e35bba-f7d9-11ed-90ce-dac502259ad0.png

展望未來

我們處于一個令人激動的 AI 和軟件工程信息時代,我們共同見證著科技進步如何改變世界。Prompt Sapper 攜手基礎(chǔ)模型和軟件工程,將不斷探索 AI 鏈工程的最佳實踐和方法學,推動著 AI 鏈工程的發(fā)展和普及。我們計劃采用 “走出去” 和 “引進來” 的方式來打通 AI 鏈開發(fā)和終端用戶之間的最后一公里,將 AI 鏈工程方法學、工具和實踐帶給更多的開發(fā)者和用戶,并推動 AI 服務(wù)市場和生態(tài)系統(tǒng)的發(fā)展。我們相信,AI 鏈工程將會成為未來的核心技術(shù)之一,廣泛應(yīng)用于各個領(lǐng)域和行業(yè),為人類創(chuàng)造更多的價值和福利。我們可以想象到,AI 鏈將能夠幫助我們更快速地解決問題,提高工作效率,提供更加個性化的服務(wù),同時推動社會經(jīng)濟邁向更加智能化的未來。

參考:

項目鏈接: https://github.com/AI4FutureSE

AI 鏈主網(wǎng)站: https://www.aichain.online/

Sapper IDE: https://www.promptsapper.tech/

AI 服務(wù)市場:https://www.aichain.store/

審核編輯 :李倩

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 操作系統(tǒng)
    +關(guān)注

    關(guān)注

    37

    文章

    6846

    瀏覽量

    123419
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    31054

    瀏覽量

    269407
  • 模型
    +關(guān)注

    關(guān)注

    1

    文章

    3255

    瀏覽量

    48907

原文標題:Prompt Sapper:基礎(chǔ)模型的靈魂伴侶,AI服務(wù)的創(chuàng)新工場

文章出處:【微信號:軟件質(zhì)量報道,微信公眾號:軟件質(zhì)量報道】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    雷鳥創(chuàng)新與阿里云達成戰(zhàn)略合作,引領(lǐng) AI模型與AR眼鏡融合新紀元

    1月2日,消費級AR領(lǐng)先品牌雷鳥創(chuàng)新RayNeo與阿里云舉行戰(zhàn)略簽約儀式,雙方宣布在AI眼鏡領(lǐng)域達成獨家戰(zhàn)略合作,通義系列大模型將為雷鳥創(chuàng)新AI
    發(fā)表于 01-03 13:45 ?70次閱讀
    雷鳥<b class='flag-5'>創(chuàng)新</b>與阿里云達成戰(zhàn)略合作,引領(lǐng) <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>與AR眼鏡融合新紀元

    微軟發(fā)布Azure AI Foundry,推動云服務(wù)增長

    。 Azure AI Foundry為用戶提供了一個更為便捷的平臺,使得在支持人工智能的大型語言模型之間切換變得輕松自如。這一創(chuàng)新工具的發(fā)布,無疑將極大地降低AI應(yīng)用的開發(fā)門檻,進一步
    的頭像 發(fā)表于 11-21 11:32 ?443次閱讀

    第一屆“澎峰云?大模型AI校園應(yīng)用創(chuàng)新賽完美結(jié)束

    在大模型人工智能的浪潮中,澎峰科技與中科曙光強強聯(lián)合,共同打造了一場大模型AI創(chuàng)新應(yīng)用盛宴——第一屆“澎峰云?大模型
    的頭像 發(fā)表于 11-11 10:59 ?403次閱讀

    AI對話魔法 Prompt Engineering 探索指南

    Engineering 就是設(shè)計和優(yōu)化與AI對話的“提示詞”或“指令”,讓AI能準確理解并提供有用的回應(yīng)。 Prompt Engineering 主要包括以下幾個方面: 1.明確目標:希望A
    的頭像 發(fā)表于 11-07 10:11 ?826次閱讀
    <b class='flag-5'>AI</b>對話魔法 <b class='flag-5'>Prompt</b> Engineering 探索指南

    AI模型托管原理分析

    AI模型托管是指將訓練好的AI模型部署在云端或邊緣服務(wù)器上,由第三方平臺提供模型運行、管理和優(yōu)化
    的頭像 發(fā)表于 11-07 09:33 ?200次閱讀

    AI for Science:人工智能驅(qū)動科學創(chuàng)新》第二章AI for Science的技術(shù)支撐學習心得

    非常高興本周末收到一本新書,也非常感謝平臺提供閱讀機會。 這是一本挺好的書,包裝精美,內(nèi)容詳實,干活滿滿。 關(guān)于《AI for Science:人工智能驅(qū)動科學創(chuàng)新》第二章“AI
    發(fā)表于 10-14 09:16

    中軟國際模型工場加速各行業(yè)智能化進程

    介紹了中軟國際模型工場如何通過全棧AI場景化服務(wù),解決大模型在企業(yè)應(yīng)用中的核心痛點,幫助企業(yè)實現(xiàn)從探索到全面實踐的智能化轉(zhuǎn)型,打通
    的頭像 發(fā)表于 09-19 14:14 ?344次閱讀
    中軟國際<b class='flag-5'>模型</b><b class='flag-5'>工場</b>加速各行業(yè)智能化進程

    GitHub推出GitHub Models服務(wù),賦能開發(fā)者智能選擇AI模型

    8月2日,全球領(lǐng)先的代碼托管平臺GitHub宣布了一項重大創(chuàng)新——GitHub Models服務(wù)的正式推出。該服務(wù)被定位為AI時代的工程師助手,旨在幫助全球超過1億的GitHub用戶輕
    的頭像 發(fā)表于 08-02 15:39 ?612次閱讀

    NVIDIA攜手Meta推出AI服務(wù),為企業(yè)提供生成式AI服務(wù)

    NVIDIA近日宣布了一項重大舉措,正式推出NVIDIA AI Foundry服務(wù)與NVIDIA NIM(NVIDIA Inference Microservices)推理微服務(wù),這兩項創(chuàng)新
    的頭像 發(fā)表于 07-25 16:57 ?553次閱讀

    網(wǎng)宿科技正式揭曉其邊緣AI網(wǎng)關(guān)服務(wù)創(chuàng)新

    7月11日,網(wǎng)宿科技正式揭曉其創(chuàng)新力作——邊緣AI網(wǎng)關(guān)服務(wù),為企業(yè)用戶量身打造了一個集安全性、可靠性、高性能與便捷管理于一體的AI模型
    的頭像 發(fā)表于 07-11 17:22 ?736次閱讀

    李開復展望AI未來:2025年AI或超博士水平

    在6月29日舉辦的知乎第十屆鹽Club新知青年大會上,科技巨頭李開復,身兼零一萬物CEO和創(chuàng)新工場董事長雙重身份,發(fā)表了對人工智能(AI)未來的深度見解。他回顧了自己與AI相伴的40年歷程,并大膽預(yù)測,大
    的頭像 發(fā)表于 06-29 15:56 ?930次閱讀

    英偉達推出AI模型推理服務(wù)NVIDIA NIM

    英偉達近日宣布推出一項革命性的AI模型推理服務(wù)——NVIDIA NIM。這項服務(wù)將極大地簡化AI模型
    的頭像 發(fā)表于 06-04 09:15 ?689次閱讀

    STM CUBE AI錯誤導入onnx模型報錯的原因?

    使用cube-AI分析模型時報錯,該模型是pytorch的cnn轉(zhuǎn)化成onnx ``` Neural Network Tools for STM32AI v1.7.0 (STM.
    發(fā)表于 05-27 07:15

    微軟MSN天氣服務(wù)引入全新AI模型

    微軟在天氣預(yù)測領(lǐng)域取得了突破性的進展,為MSN天氣服務(wù)引入了全新的AI預(yù)測模型。該模型由微軟Start團隊精心研發(fā),并基于他們在arXiv上發(fā)表的最新論文。這一
    的頭像 發(fā)表于 05-07 09:25 ?580次閱讀

    使用cube-AI分析模型時報錯的原因有哪些?

    使用cube-AI分析模型時報錯,該模型是pytorch的cnn轉(zhuǎn)化成onnx ``` Neural Network Tools for STM32AI v1.7.0 (STM.
    發(fā)表于 03-14 07:09