OpenAI 發(fā)布 GPT-4 Turbo 目前我們所知道的功能分析解答
在最近的OpenAI DevDay上,該組織發(fā)布了一項備受期待的公告:推出GPT-4 Turbo,這是對其突破性AI模型的改進(jìn)。在這里,我們?nèi)媪私釭PT-4 Turbo是什么、它的主要功能以及它如何使開發(fā)人員和用戶受益。
了解 OpenAI 的最新更新、具有視覺功能的 GPT-4 Turbo 及其主要功能,包括改進(jìn)的知識截止、擴(kuò)展的上下文窗口、預(yù)算友好的定價等。
什么是GPT-4 Turbo?
GPT-4 Turbo是現(xiàn)有GPT-4大語言模型的更新。它帶來了一些改進(jìn),包括大大增加的上下文窗口和對更多最新知識的訪問。OpenAI逐漸改進(jìn)ChatGPT中GPT-4的功能,添加了自定義指令、ChatGPT插件、DALL-E 3和高級數(shù)據(jù)分析。此最新更新帶來了許多令人興奮的新功能。
什么是GPT-4 Turbo With Vision?
具有視覺功能的GPT-4 Turbo是GPT-4 Turbo的變體,包含光學(xué)字符識別(OCR)功能。也就是說,您可以向它提供圖像,它可以返回圖像中包含的任何文本。例如,您可以輸入菜單的照片,它將返回該照片中寫入的食物選擇。同樣,您可以提供發(fā)票照片并自動提取供應(yīng)商名稱和商品詳細(xì)信息。
ChatGPT默認(rèn)提供“with Vision”功能,開發(fā)人員可以通過在OpenAI API中選擇“gpt-4-vision”模型來使用。
GPT-4 Turbo主要特性
GPT-4 Turbo與之前的型號相比有多項改進(jìn),增強(qiáng)了其功能。以下是使其脫穎而出的一些關(guān)鍵功能:
改進(jìn)知識截止
Sam Altman承諾確保ChatGPT保持最新狀態(tài)
GPT-3.5和GPT-4的現(xiàn)有版本的知識截止日期為2021年9月。這意味著它們無法回答有關(guān)該時間之后發(fā)生的現(xiàn)實(shí)世界事件的問題,除非獲得外部數(shù)據(jù)源的訪問權(quán)限。
GPT-4將知識截止時間延長了19個月,至2023年4月。這意味著GPT-4 Turbo可以訪問截至該日期的信息和事件,使其成為更明智、更可靠的信息來源。此外,OpenAI的首席執(zhí)行官Sam Altman承諾“[OpenAI]將努力永遠(yuǎn)不會讓[GPT]再次過時?!?/p>
128K上下文窗口
大型語言模型(LLM)的上下文窗口是衡量其對話記憶持續(xù)時間的指標(biāo)。如果模型的上下文窗口包含4,000個令牌(約3,000個單詞),則聊天中超過4,000個令牌之前的所有內(nèi)容都會被忽略,并且響應(yīng)可能會變得不太準(zhǔn)確,甚至與之前的響應(yīng)相矛盾。對于處理較長的文檔或進(jìn)行長時間對話的聊天機(jī)器人來說,這是一個問題。
GPT-4的最大上下文長度為32k(32,000)個令牌。GPT-4 Turbo將其增加到128k令牌(大約240頁,每頁400個字)。這超過了Anthropic的Claude 2模型的100k最大上下文,并使其與Nous Research的YARN-MISTRAL-7b-128k模型保持一致。
較長的上下文窗口是否會導(dǎo)致整個窗口的響應(yīng)性能令人滿意,還有待觀察。斯坦福大學(xué)最近的研究表明,現(xiàn)有的長上下文模型只能在從文檔開頭或結(jié)尾附近檢索信息時提供準(zhǔn)確的響應(yīng)。
還值得注意的是,128k似乎只是實(shí)現(xiàn)“無限上下文”夢想的墊腳石。微軟和西安交通大學(xué)的早期研究旨在將法學(xué)碩士規(guī)模擴(kuò)大到十億個代幣的背景。
GPT開始發(fā)售
OpenAI響應(yīng)了LLM市場日益激烈的競爭,并降低了GPT-4 Turbo的價格,以便為開發(fā)人員提供經(jīng)濟(jì)實(shí)惠的價格。使用OpenAI API時,GPT-4 Turbo輸入代幣價格現(xiàn)在是之前價格的三分之一,從每1000個代幣3美分降至1美分。產(chǎn)出的代幣現(xiàn)在是半價,從每1000個代幣6美分降至3美分。
GPT-3.5 Turbo模型也延續(xù)了同樣的趨勢,以每1000個代幣0.1美分的價格提供了3倍便宜的輸入代幣,以每1000個代幣0.2美分的價格提供了2倍便宜的輸出代幣。
此外,經(jīng)過微調(diào)的GPT-3.5 Turbo 4K模型輸入代幣現(xiàn)在價格便宜4倍,價格從每1000個代幣1.2美分降至0.3美分,輸出代幣便宜2.7倍,從每1.6美分降至0.6美分每1000個代幣為美分。培訓(xùn)價格保持不變,為每1000個代幣0.8美分。
這些價格調(diào)整旨在使先進(jìn)的人工智能模型對開發(fā)者來說更??具成本效益。
GPT走向多模式:圖像提示和文本轉(zhuǎn)語音
“GPT-4 Turbo with Vision”宣布即將推出。您很快就可以通過直接在聊天框中輸入圖像作為提示來提示GPT-4 Turbo。然后,該工具將能夠生成標(biāo)題或提供圖像所描繪內(nèi)容的描述。它還將處理文本到語音的請求。
函數(shù)調(diào)用更新
函數(shù)調(diào)用是開發(fā)人員將生成式人工智能融入其應(yīng)用程序的一項功能。它使他們能夠向GPT-4 Turbo描述其應(yīng)用程序的功能或外部API。由于能夠在一條消息中調(diào)用多個函數(shù),此功能簡化了與模型的交互。例如,用戶可以發(fā)送一條請求多個操作的消息,從而無需與模型進(jìn)行多次來回交互。
如何訪問GPT-4 Turbo
“所有付費(fèi)開發(fā)人員”都可以訪問GPT-4 Turbo,這意味著如果您具有API訪問權(quán)限,則只需在OpenAI API中傳遞“gpt-4-1106-preview”作為模型名稱即可。同樣,對于具有視覺功能的GPT-4 Turbo,您可以傳遞“gpt-4-vision-preview”作為模型名稱。
請注意,這些預(yù)覽模型尚未被認(rèn)為適合生產(chǎn)使用。然而,作為公告的一部分,Altman還承諾將在未來幾周內(nèi)推出可投入生產(chǎn)的版本。
對于非開發(fā)人員來說,GPT-4 Turbo可能會在未來幾周內(nèi)向ChatGPT Plus和ChatGPT Enterprise用戶提供。
速率限制
通過OpenAI API訪問GPt模型的速率受到限制。也就是說,您每月只能向API發(fā)出有限數(shù)量的請求。OpenAI現(xiàn)已發(fā)布關(guān)于速率限制如何運(yùn)作的更清晰指南,因此您的應(yīng)用程序不會意外被切斷。
此外,GPT-4的速率限制增加了一倍
由于GPT-4 Turbo目前處于預(yù)覽階段,因此GPT-4 Turbo的速率限制設(shè)置為每分鐘20個請求和每天100個請求。OpenAI已表示,他們目前不會適應(yīng)此模型的速率限制增加。然而,一旦公開版本可用,他們很可能會這樣做。
最后的思考
GPT-4 Turbo的發(fā)布為生成式AI的未來提供了令人興奮的一瞥,我們迫不及待地想掌握它。對于那些尋求更深入了解的人,我們關(guān)于在OpenAI API使用GPT-3.5和GPT-4的教程有很多值得探索的地方。
審核編輯 黃宇
-
AI
+關(guān)注
關(guān)注
87文章
30898瀏覽量
269130 -
OpenAI
+關(guān)注
關(guān)注
9文章
1089瀏覽量
6527 -
ChatGPT
+關(guān)注
關(guān)注
29文章
1561瀏覽量
7683
發(fā)布評論請先 登錄
相關(guān)推薦
評論