香港大学携手快手可灵团队,在AI视频生成领域取得了突破性进展。双方联合发布了一项名为《以记忆为脉络:基于记忆检索的场景一致交互式长视频生成》的研究成果,创新性地提出了“Context-as-Memory”方法,成功攻克了长视频生成过程中场景连贯性的技术瓶颈。
该研究的核心亮点在于,将视频生成过程中逐步累积的历史上下文视作“记忆”,借助先进的context learning技术,视频生成模型得以深入理解并模仿视频数据的上下文条件,进而在长视频的生成过程中实现前后场景的完美衔接。值得注意的是,这一过程中,模型能够自行学习到视频数据中的3D空间结构,而无需借助额外的3D建模步骤,这一发现与谷歌的Genie3项目有着异曲同工之妙。
为了应对历史帧序列不断增长带来的计算挑战,研究团队巧妙地设计了一种基于相机视野(FOV)的记忆检索机制。该机制能够智能地从历史帧中挑选出与当前生成视频高度相关的帧,作为记忆条件进行参考,从而极大地提升了计算效率,降低了训练成本。通过这一动态检索策略,系统能够根据相机轨迹的FOV重叠关系,精准判断预测帧与历史帧之间的关联程度,有效减少了需要学习的上下文数量,实现了模型训练和推理速度的显著提升。
为了验证这一技术的可行性,研究团队利用Unreal Engine5精心构建了一个包含多样化场景、且带有精确相机轨迹标注的长视频数据集。这一数据集为技术的深入测试提供了坚实的基础。在实际应用中,用户只需提供一张初始图像,即可沿着预设的相机轨迹自由探索由AI生成的虚拟世界,体验前所未有的沉浸式体验。
实验结果显示,“Context-as-Memory”方法在长达几十秒的视频生成过程中,展现出了卓越的静态场景记忆能力,并且在不同场景中均表现出良好的泛化性能。与当前最先进的SOTA方法相比,该技术在长视频生成的场景记忆方面实现了显著的性能提升,即使在未见过的开放域场景中,也能有效地保持记忆的连续性。
举报 0收藏 0打赏 0评论 0分享 0 更多>同类资讯银华卓信成长精选混合A最新净值公布,8月25日涨幅达3.87%银华卓信成长精选混合A成立于2022年11月4日,业绩比较基准为沪深300指数收益率×50%+中证港股通综合指数(人民币)收益率×30%+中债综合指数(全价)收益率×20%。该基金成立以来收益-9.74%,…08-26石头科技融资活跃:近三日获融资买入1.7亿,25日净买入额居两市632位8月25日,沪深两融数据显示,石头科技获融资买入额0.62亿元,居两市第632位,当日融资偿还额0.76亿元,净卖出1360.14万元。 最近三个交易日,21日-25日,石头科技分别获融资买入0.42亿元、0…08-26
汇纳科技布局江西,新设柔性穿戴技术公司,注册资本高达千万08-26
河南郑西低空经济新纪元!郑西低空经济发展公司注册成立,资本雄厚达1.6亿08-26
滨海泰达物流携手多方,6100万共设博正泰达私募基金08-26
哪吒2电影配音公司遭股东撤离,背后原因引人猜想08-26
霍尔果斯丝路融通基金成立,10亿资金助力产业发展新篇章08-26
魏大勋与父亲商业关系解绑,背后有何故事?08-26
瘦身钢筋问题公司,历史产品不合格遭处罚,质量隐患何时止?08-26
东方电气旗下设计公司迎来新名称,工程领域或将掀起新波澜08-26
南通新企起航:易实精密等联手成立机械零部件公司,注册资本达500万08-26
暑期文旅新热点:主题乐园火爆,游乐园企业数量超40.7万家08-26
文旅热潮下,虚拟现实人才缺口大,沉浸式经济企业已超3.8万家!08-26
永茂泰跨界布局!新设机器人传感技术公司,注册资本高达1.5亿08-26波兰监管机构指控Netflix擅自涨价,将提起诉讼08-26点击查看更多 +全站最新
探索宇宙奥秘新突破:超大射电望远镜动工,聆听百亿年前声音
火星水手谷现神秘层理结构,科学家推测其曾遭洪水频繁冲刷
韦布望远镜揭秘:宇宙最古老氧气,重塑早期宇宙演化图景
火星探测新突破:高浓度有机碳分子引发远古生命遐想
火星甲烷之谜:地质活动还是生命暗流?
夜空:星辰信使与月之幽默,共绘宇宙温柔画卷热门内容
汇纳科技布局江西,新设柔性穿戴技术公司,注册资本高达千万
河南郑西低空经济新纪元!郑西低空经济发展公司注册成立,资本雄厚达1.6亿
滨海泰达物流携手多方,6100万共设博正泰达私募基金
哪吒2电影配音公司遭股东撤离,背后原因引人猜想
霍尔果斯丝路融通基金成立,10亿资金助力产业发展新篇章
魏大勋与父亲商业关系解绑,背后有何故事?
本文链接:http://www.28at.com/showinfo-16-178943-0.html港大快手可灵团队革新长视频生成,"记忆载体"技术破解场景一致性难题
声明:本网页内容旨在传播知识,不代表本站观点,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。