0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

GPT-3引發(fā)公眾的遐想 能根據文字產生圖片的AI!

hl5C_deeptechch ? 來源:DeepTech深科技 ? 作者:DeepTech深科技 ? 2020-10-09 18:30 ? 次閱讀

在全球所有 AI 模型中,OpenAI 的 GPT-3 最能引發(fā)公眾的遐想。

雖然它可以僅憑很少的文本來輸出詩歌、短篇小說和歌曲,并且成功地讓人們相信這是人類的創(chuàng)作。但是,它在同人類對話時還是顯得非?!坝字伞?。可盡管如此,技術人員依然認為,創(chuàng)造了 GPT-3 的技術可能是通往更高級 AI 的必經之路。

GPT-3 使用大量文本數據進行了訓練,那么,假如同時使用文本和圖像數據進行訓練,會發(fā)生什么呢?

艾倫人工智能研究所(AI2)在這個問題上取得了進展,技術人員開發(fā)了一種新的視覺語言模型,可以根據給定的文本生成對應圖像。

不同于 GAN 所生成的超現實主義作品,AI2 生成的這些圖像看起來非常怪異,但它的確可能是一個實現通用人工智能的新路徑。

AI“做題家”

GPT-3 在分類上屬于 “Transformer” 模型,隨著 Google BERT 的成功,該模型開始流行。而在 BERT 之前,語言模型可用性不佳。

它們雖然具備一定的預測能力,但并不足以生成符合語法和常識的長句子。BERT 通過引入一種稱為 “masking(遮罩)” 的新技術,使模型這方面的能力得到了大幅加強。

模型會被要求完成類似下面的填空題:

這位女士去___鍛煉。

他們買了一個___面包做三明治。

這個想法初衷是,如果強迫模型進行數百萬次的這類練習,它是否可能學會如何將單詞組合成句子以及如何將句子組合成段落。測試結果表明,模型確實獲得了更好地生成和解釋文本的能力(Google 正在使用 BERT 幫助在其搜索引擎中提供更多相關的搜索結果)。

在證明遮罩行之有效之后,技術人員試圖通過將文本中的單詞隱藏,將其應用于視覺語言模型,例如:

一只站立在樹木旁的___。(來源:MIT TR)

通過數百萬次的訓練,它不僅可以發(fā)現單詞之間的組合模式,還可以發(fā)現單詞與圖像中元素之間的關聯。

這樣的結果就是模型擁有了將文字描述與視覺圖像相關聯的能力,就像人類的嬰兒可以在他們所學的單詞同所見事物之間建立聯系一樣。

舉個例子,當模型讀取到下面的圖片,便可以給出一個較為貼切標題,如 “打曲棍球的女人”。或者它們可以回答諸如“球是什么顏色?” 之類的問題,因為模型可以將單詞 “球” 與圖像中的圓形物體關聯。

圖 | 女子曲棍球比賽 (來源:MIT TR)

一圖勝千言

技術人員想知道這些模型是否真的像嬰兒一樣 “學會” 了認識這個世界。

孩子不僅可以在看到圖像時聯想到單詞,還可以在看到單詞時在頭腦中浮現出對應的圖像,哪怕這個圖像是真實和想象的混合體。

技術人員嘗試讓模型做同樣的事情:根據文本生成圖像。然后模型吐出了無意義的像素圖案。

得到這樣的結果是有原因的,將文本轉換為圖像的任務相比其他要困難得多。AI2 的計算機視覺團隊負責人 Ani Kembhavi 說,文本并未指定圖像中包含的所有內容。因此,模型需要 “聯想” 許多現實世界的常識來填充細節(jié)。

例如,假設 AI 被要求繪制“在道路上行走的長頸鹿”,它需要推斷出這條道路更可能是灰色而不是粉色,并且更可能毗鄰草地而不是海洋——盡管這些信息都不明確。

因此 Kembhavi 和他的同事 Jaemin Cho、Jiasen Lu 和 Hannaneh Hajishirzi 決定看看他們是否可以通過調整遮罩的方式,來教授 AI 所有這些隱式視覺知識。他們訓練模型不是為了從對應圖片中預測被遮蓋的單詞,而是為了讓它能從文本中 “腦補” 圖片中的缺失部分。

雖然模型最終生成的圖像并不完全真實,但這不是重點。重要的是這預示著模型已經包含了正確的高級視覺概念,即 AI 一定程度上具備了兒童的根據文本畫圖的能力。

圖 | AI2 模型根據文本生成的圖像示例 (來源:MIT TR)

視覺語言模型獲得此類圖像生成的能力代表了 AI 研究的重要一步,這表明該模型實際上具有一定程度的抽象能力,而這是理解世界的基本技能。

未來,這項技術很可能對機器人領域產生極大影響。機器人可以使用語言進行交流,當它們對視覺信息的理解越好,就越能夠執(zhí)行復雜的任務。

Hajishirzi 說,從短期來看,這種可視化還可以幫助技術人員更好地理解 AI 模型的學習過程。之后,AI2 團隊計劃展開更多實驗,以提高圖像生成的質量,并拓寬模型的視覺和語言。

文章出處:【微信公眾號:DeepTech深科技】歡迎添加關注!文章轉載請注明出處。

責任編輯:haq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    33415

    瀏覽量

    273948
  • 人工智能
    +關注

    關注

    1803

    文章

    48399

    瀏覽量

    244545

原文標題:這些令人不安的照片,表明AI越來越聰明了!它正在學習根據文字生成圖片

文章出處:【微信號:deeptechchina,微信公眾號:deeptechchina】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    DLP4710evm lc TRIG_OUT2腳不輸出脈沖信號怎么解決?

    用TRIG_OUT2腳觸發(fā)相機拍照,前幾天還能根據投影同步產生觸發(fā)信號,這幾天再實驗的時候TRIG_OUT2腳就不受控制了,一直輸出高電平。TRIG_OUT1
    發(fā)表于 02-25 08:07

    從性能到商業(yè),Grok3、GPT-4o、DeepSeek如何重塑AI版圖?

    2025年2月,AI領域仿佛上演了一場激烈的“諸神之戰(zhàn)”,馬斯克旗下xAI發(fā)布的Grok3、OpenAI推出的GPT-4o以及持續(xù)憑借R1模型大放異彩的DeepSeek,三大巨頭強勢登場,讓A
    的頭像 發(fā)表于 02-19 18:14 ?792次閱讀
    從性能到商業(yè),Grok<b class='flag-5'>3</b>、<b class='flag-5'>GPT</b>-4o、DeepSeek如何重塑<b class='flag-5'>AI</b>版圖?

    OpenAI即將發(fā)布GPT-4.5與GPT-5

    GPT-4.5將在未來幾周內率先亮相,它將是OpenAI通用GPT-4模型的繼承者。這款新的算法在技術上進行了諸多優(yōu)化和升級,旨在為用戶提供更加精準、高效的AI服務。 而在GPT-4
    的頭像 發(fā)表于 02-13 13:43 ?498次閱讀

    騰訊混元3D AI創(chuàng)作引擎正式發(fā)布

    AI技術,能夠根據用戶提供的提示詞或圖片,直接生成高質量的3D模型。這一功能極大地降低了3D內容創(chuàng)作的門檻,使得即使是缺乏專業(yè)
    的頭像 發(fā)表于 01-23 10:33 ?425次閱讀

    AI時代算力的重要性及現狀:平衡發(fā)展與優(yōu)化配置的挑戰(zhàn)

    瓦時的電力。訓練一次擁有1746億參數的GPT-3模型,所需的算力更是高達3640PFlops,耗資466萬美元。
    的頭像 發(fā)表于 11-04 11:45 ?909次閱讀

    Llama 3GPT-4 比較

    隨著人工智能技術的飛速發(fā)展,我們見證了一代又一代的AI模型不斷突破界限,為各行各業(yè)帶來革命性的變化。在這場技術競賽中,Llama 3GPT-4作為兩個備受矚目的模型,它們代表了當前AI
    的頭像 發(fā)表于 10-27 14:17 ?944次閱讀

    英偉達預測機器人領域或迎“GPT-3時刻”

    未來2-3年內,機器人基礎模型的研究將迎來重大突破,這一時刻被形象地比喻為機器人領域的“GPT-3時刻”。
    的頭像 發(fā)表于 09-20 17:05 ?970次閱讀

    Jim Fan展望:機器人領域即將迎來GPT-3式突破

    英偉達科學家9月19日,科技媒體The Decoder發(fā)布了一則引人關注的報道,英偉達高級科學家Jim Fan在近期預測,機器人技術將在未來兩到三年內迎來類似GPT-3在語言處理領域的革命性突破,他稱之為機器人領域的“GPT-3時刻”。
    的頭像 發(fā)表于 09-19 15:13 ?789次閱讀

    【算RADXA微服務器試用體驗】+ GPT語音與視覺交互:4,文字轉語音

    tts_venv source tts_venv/bin/activate pip3 install https://github.com/radxa-edge/TPU-Edge-AI/releases
    發(fā)表于 07-15 23:18

    GPT的定義和演進歷程

    GPT,全稱Generative Pretrained Transformer,是OpenAI公司在自然語言處理(NLP)領域的一項重大創(chuàng)新。這一模型不僅推動了AI技術的邊界,還深刻影響了我們與機器交互的方式。本文將從GPT的定
    的頭像 發(fā)表于 07-10 10:41 ?2323次閱讀

    推出最新的邊緣AI服務器及內置耐AI芯片的PC設備

    - 耐的邊緣 AI 服務器 KNEO 330 為中小企業(yè)帶來 30-40% 的成本節(jié)省,同兼顧隱私和安全性。- 耐的邊緣 GPT AI
    的頭像 發(fā)表于 06-05 10:21 ?894次閱讀

    微軟Build 2024:宣布開放AI GPT-40及Phi-3-visio

    5 月 22 日,微軟Build 2024大會在美正式開幕。薩提亞·納德拉CEO、董事長宣布,OpenAI新款旗艦模型GPT-4o已經在Azure AI Studio上線,并開放API服務。
    的頭像 發(fā)表于 05-22 11:18 ?683次閱讀

    OpenAI CEO: GPT-4o and GPT-5領未來12個月編程領域,GPT-5更具潛力

    據報道,OpenAI首席執(zhí)行官阿萊夫·阿爾特曼在接受Redpoint風投公司LoganBartlett的專訪中,透露了最近發(fā)布的GPT-40以及即將面世的GPT-5。
    的頭像 發(fā)表于 05-17 16:25 ?751次閱讀

    OpenAI全新GPT-4o能力炸場!速度快/成本低,能讀懂人類情緒

    電子發(fā)燒友網報道(文/李彎彎)當地時間5月13日,OpenAI舉行春季發(fā)布會,宣布將推出桌面版ChatGPT,并發(fā)布全新旗艦AI模型GPT
    的頭像 發(fā)表于 05-15 00:15 ?8117次閱讀

    百度搜索重磅推出AI圖片助手

    近日,百度搜索全新上線了一款名為“百度AI圖片助手”的智能工具,該工具賦予了用戶一鍵處理圖片的強大能力。無論是搜索中的圖片還是用戶自主上傳的圖片
    的頭像 發(fā)表于 05-06 10:20 ?1946次閱讀

    電子發(fā)燒友

    中國電子工程師最喜歡的網站

    • 2931785位工程師會員交流學習
    • 獲取您個性化的科技前沿技術信息
    • 參加活動獲取豐厚的禮品