谷歌发布了一款新AI模型,视频无痕PS
众所周知,视频的抠图相当麻烦,要是有大面积频繁的抠图需求,还得布置绿幕进行后期PS。
而最近,谷歌DeepMind联合马里兰大学帕克分校和魏茨曼科学研究所,共同开发了一项名为Generative Omnimatte的技术。
这项AI技术主要用于视频消除。
它可以将视频中不想要的元素直接擦除掉!
完完全全的擦除,图像周围区域的瑕疵可以说毫无痕迹~
擦除的同时,它还能修复扣除区域遮挡的细节↓
而且对于背景图,高速移动的重叠物体之间的阴影处理,都特别流畅。
还有一个细节的地方不知道大家注意到没有?
这个窗户上的影子!
这才是Generative Omnimatte令人惊叹的点。
它能够识别擦除区域产生的阴影并且重绘除掉!
这就非常厉害了~
一般的扣除工具令人诟病的点就是扣完主体后,运动的阴影不好处理,而如今Generative Omnimatte 做到了。
今后视频也不能信了,以假乱真的场面估计会满天飞...
那么这是怎么做到的呢?
Generative Omnimatte是一种先进的视频分解技术,它能够将视频分解为一组RGBA Omnimatte层,每一层包含一个完全可见的对象及其相关效果,如阴影和反射。
这项技术实现依赖于一个名为Casper的对象-效果移除模型。
该模型接受输入视频和二进制对象掩码,生成干净背景板和一组单对象视频,应用不同的trimask条件。
说简单点就是分层。
这些trimasks指定了保留区域(白色)、移除区域(黑色)以及可能包含不确定对象效果的区域(灰色)。
这项技术的核心在于其能够处理复杂的视频场景,包括动态背景和多个对象。
而传统的omnimatte方法往往依赖于静止背景的假设, 就比如AE,扣除图像需要一个静止的参考图层,或者绿幕,然后对每一帧图像进行图像识别,非常繁琐。
但它仍然存在一些局限性。
例如,它处理颜色混合的能力较强,但并不能捕捉作为对象效果的形状变形;此外,在处理复杂的多对象场景时,模型可能无法总是产生预期的结果。
但这个技术带来的影响是很大的,对一些电影影视后期的处理帮助非常大。
文章来源: