近日,阿里云推出全新視頻生成大模型 I2VGen-XL,并在魔搭社區(qū)開放體驗(yàn),用戶上傳一張圖片后 2 分鐘左右即可生成一段 1280*720 的高分辨率視頻。據(jù)介紹,該模型的訓(xùn)練還使用了多種風(fēng)格的視頻數(shù)據(jù),可生成科技感、電影色、卡通風(fēng)格和素描等類型豐富的視頻。目前,I2VGen-XL 的模型和代碼均已開源。
在此之前,阿里云曾推出 AI 繪畫創(chuàng)作大模型通義萬相(基座模型 Composer)和可控視頻生成模型 VideoComposer,團(tuán)隊(duì)在該領(lǐng)域發(fā)表 60 多篇 CCF-A 類論文,并在國際頂級(jí)視覺競(jìng)賽中獲得 10 余項(xiàng)冠軍。
和 AI 繪畫創(chuàng)作大模型相比,視頻生成大模型的技術(shù)門檻更高,其需要克服文本和視頻內(nèi)容匹配度、視頻畫面質(zhì)量、畫面連續(xù)性等諸多技術(shù)挑戰(zhàn)。在此之前,阿里云和微軟等科技公司相繼推出一系列可控視頻生成研究成果,例如用戶可通過定義空間布局、運(yùn)動(dòng)模式等條件來生成視頻,但其畫面清晰度難以滿足真實(shí)場(chǎng)景應(yīng)用的需求。
針對(duì)該問題,阿里云進(jìn)一步提出創(chuàng)新思路,I2VGen-XL 模型設(shè)計(jì)了兩個(gè)階段:首先在低分辨率條件下保證生成結(jié)果和給定圖像語義的匹配度,隨后通過視頻擴(kuò)散模型 (VLDM) 來提高視頻分辨率,并同時(shí)提升時(shí)間和空間上的一致性,保證最終視頻內(nèi)容的清晰度和連貫性,最終實(shí)現(xiàn) 1280*720 高分辨率的突破,并且在畫面細(xì)節(jié)的展現(xiàn)上大幅領(lǐng)先現(xiàn)有模型。
I2VGen-XL 模型研發(fā)負(fù)責(zé)人表示,未來將進(jìn)一步實(shí)現(xiàn) 2K 超清效果,可應(yīng)用于短視頻內(nèi)容生產(chǎn)、電影制作等場(chǎng)景。
I2VGen-XL 流程圖
目前,I2VGen-XL 模型已吸引國內(nèi)外用戶和開發(fā)者的廣泛體驗(yàn)和二次開發(fā),涌現(xiàn)了大量創(chuàng)意 AI 視頻生成內(nèi)容,例如在城堡上展翅的恐龍、宇航員在飛船中行走的科幻電影畫面等等……知名 AI 社交媒體分析師 Ahsen Khaliq 在推特發(fā)布多條由該模型生成的視頻效果,并表示模型在清晰度、紋理、語義和時(shí)間連續(xù)性方面有優(yōu)勢(shì)。
模型體驗(yàn)地址:
https://modelscope.cn/studios/damo/I2VGen-XL-Demo/summary
-
分辨率
+關(guān)注
關(guān)注
2文章
1068瀏覽量
41975 -
AI
+關(guān)注
關(guān)注
87文章
31315瀏覽量
269659 -
模型
+關(guān)注
關(guān)注
1文章
3279瀏覽量
48978 -
大模型
+關(guān)注
關(guān)注
2文章
2516瀏覽量
2935
原文標(biāo)題:降本增效:Grab 如何在云上將 Kafka 消費(fèi)者流量成本降到零
文章出處:【微信號(hào):AI前線,微信公眾號(hào):AI前線】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論