近日，阿里云推出全新視頻生成大模型 I2VGen-XL，并在魔搭社區(qū)開(kāi)放體驗(yàn)，用戶上傳一張圖片后 2 分鐘左右即可生成一段 1280*720 的高分辨率視頻。據(jù)介紹，該模型的訓(xùn)練還使用了多種風(fēng)格的視頻數(shù)據(jù)，可生成科技感、電影色、卡通風(fēng)格和素描等類型豐富的視頻。目前，I2VGen-XL 的模型和代碼均已開(kāi)源。

在此之前，阿里云曾推出 AI 繪畫(huà)創(chuàng)作大模型通義萬(wàn)相（基座模型 Composer）和可控視頻生成模型 VideoComposer，團(tuán)隊(duì)在該領(lǐng)域發(fā)表 60 多篇 CCF-A 類論文，并在國(guó)際頂級(jí)視覺(jué)競(jìng)賽中獲得 10 余項(xiàng)冠軍。

和 AI 繪畫(huà)創(chuàng)作大模型相比，視頻生成大模型的技術(shù)門(mén)檻更高，其需要克服文本和視頻內(nèi)容匹配度、視頻畫(huà)面質(zhì)量、畫(huà)面連續(xù)性等諸多技術(shù)挑戰(zhàn)。在此之前，阿里云和微軟等科技公司相繼推出一系列可控視頻生成研究成果，例如用戶可通過(guò)定義空間布局、運(yùn)動(dòng)模式等條件來(lái)生成視頻，但其畫(huà)面清晰度難以滿足真實(shí)場(chǎng)景應(yīng)用的需求。

針對(duì)該問(wèn)題，阿里云進(jìn)一步提出創(chuàng)新思路，I2VGen-XL 模型設(shè)計(jì)了兩個(gè)階段：首先在低分辨率條件下保證生成結(jié)果和給定圖像語(yǔ)義的匹配度，隨后通過(guò)視頻擴(kuò)散模型 (VLDM) 來(lái)提高視頻分辨率，并同時(shí)提升時(shí)間和空間上的一致性，保證最終視頻內(nèi)容的清晰度和連貫性，最終實(shí)現(xiàn) 1280*720 高分辨率的突破，并且在畫(huà)面細(xì)節(jié)的展現(xiàn)上大幅領(lǐng)先現(xiàn)有模型。

I2VGen-XL 模型研發(fā)負(fù)責(zé)人表示，未來(lái)將進(jìn)一步實(shí)現(xiàn) 2K 超清效果，可應(yīng)用于短視頻內(nèi)容生產(chǎn)、電影制作等場(chǎng)景。

I2VGen-XL 流程圖

目前，I2VGen-XL 模型已吸引國(guó)內(nèi)外用戶和開(kāi)發(fā)者的廣泛體驗(yàn)和二次開(kāi)發(fā)，涌現(xiàn)了大量創(chuàng)意 AI 視頻生成內(nèi)容，例如在城堡上展翅的恐龍、宇航員在飛船中行走的科幻電影畫(huà)面等等……知名 AI 社交媒體分析師 Ahsen Khaliq 在推特發(fā)布多條由該模型生成的視頻效果，并表示模型在清晰度、紋理、語(yǔ)義和時(shí)間連續(xù)性方面有優(yōu)勢(shì)。

模型體驗(yàn)地址：

https://modelscope.cn/studios/damo/I2VGen-XL-Demo/summary