GitHub的低端登上Lvmin Zhang联合斯坦福大学的Maneesh Agrawala,发布了一项突破性的显卡B显新技术FramePack,通过在视频扩散模型中使用固定长度的船G存时域上下文,可以更高效地生成时间更长、生成质量更高的高质视频。
根据实测,量视基于FramePack构建的低端登上130亿参数模型,只需一块6GB显存的显卡B显显卡,就能生成60秒钟的船G存视频。
FramePack是生成一种神经网络架构,使用多级优化策略,高质完成本地AI视频生成。量视
目前,低端登上它底层基于定制版的显卡B显腾讯混元模型,不过现有的船G存预训练模型,都可以通过FramePack进行微调、适配。
典型的视频扩散模型在生成视频时,需要首先处理此前生成的带有噪音的帧,然后预测下一个噪音更少的帧,而每生成一帧所需要输入的帧数量,就是时域上下文长度,会随着视频的体积而增加。
这就对显存有着很高的要求,一般至少得有12GB,而如果显存不够多,生成的视频就会很短,质量很差,生成的时间也会很长。
FramePack会根据输入帧的重要性,对所有输入帧进行压缩,改变为固定的上下文长度,显著降低对显存的需求,而且计算消耗与图片扩散模型类似。
同时,每一帧画面生成之后,都会实时显示,方便即时预览。
FramePack还可以缓解“漂移”(drifting)现象,也就是视频长度增加、质量下降的问题,从而在不显著牺牲质量的同时,生成更长的视频。
FramePack数据格式支持FP16、BF16,显卡硬件支持RTX 50、RTX 40、RTX 30系列显卡,除了RTX 3050 4GB几乎所有的近代显卡都没问题。
在RTX 20系列和更老显卡上尚未经过验证,也没有提及AMD、Intel处理器的需求。
操作系统支持Windows、Linux。
性能方面,RTX 4090经过teacache优化之后,每秒可以生成大约0.6帧。
相关文章:
来放羊吧!生活模拟《Heidi's Legacy》即将推出!剑星mod合集下载教程 PC游戏mod软件免费下载安装地址卡普空将 Switch 2钥匙卡 归为数字版游戏而非实体版超带感魔性节奏游戏《Ratatan》,洗脑又上头《匹诺曹的谎言》DLC遭大量玩家差评:实在太难了!PlayStation承诺每年出一款单机3A!确保PS5内容素质PS5发售五周年引争议:独占游戏锐减,8K承诺落空!《第一狂战士卡赞》全球调价与更新:日本区降价千元《数码宝贝物语:时空异客》10月3日发售!新预告公布《生化危机》《仁王》系列全线史低!《塞尔达传说》真人电影遭质疑:网友直言“任天堂真人化太违和”下一个无限大?米哈游新作曝光:沉浸式都市开放世界相对平稳!第一季度全球智能手机产量达2.89亿台!一点运气一点肝,996传奇盒子新手游“赏金传奇”带你体验拼图乐趣《剑网3缘起》赛季新版本开启 西山居30周年纪念外装免费领取探花社区楼凤社区探花论坛探花社区楼凤探花楼凤探花探花论坛楼凤信息楼凤社区楼凤信息