谷歌发布了一款新AI模型,视频无痕PS

时间:2024-12-02   阅读:59

众所周知,视频的抠图相当麻烦,要是有大面积频繁的抠图需求,还得布置绿幕进行后期PS。

而最近,谷歌DeepMind联合马里兰大学帕克分校和魏茨曼科学研究所,共同开发了一项名为Generative Omnimatte的技术。

这项AI技术主要用于视频消除。

图片

它可以将视频中不想要的元素直接擦除掉!

完完全全的擦除,图像周围区域的瑕疵可以说毫无痕迹~

图片

擦除的同时,它还能修复扣除区域遮挡的细节

图片

而且对于背景图,高速移动的重叠物体之间的阴影处理,都特别流畅。

图片

图片

还有一个细节的地方不知道大家注意到没有?

这个窗户上的影子!

2.png

这才是Generative Omnimatte令人惊叹的点。

它能够识别擦除区域产生的阴影并且重绘除掉!

3.png

这就非常厉害了~

一般的扣除工具令人诟病的点就是扣完主体后,运动的阴影不好处理,而如今Generative Omnimatte 做到了。

今后视频也不能信了,以假乱真的场面估计会满天飞...

那么这是怎么做到的呢?

Generative Omnimatte是一种先进的视频分解技术,它能够将视频分解为一组RGBA Omnimatte层,每一层包含一个完全可见的对象及其相关效果,如阴影和反射。

4.png

这项技术实现依赖于一个名为Casper的对象-效果移除模型

该模型接受输入视频和二进制对象掩码,生成干净背景板和一组单对象视频,应用不同的trimask条件。

说简单点就是分层。

图片

图片

这些trimasks指定了保留区域(白色)、移除区域(黑色)以及可能包含不确定对象效果的区域(灰色)。

图片

这项技术的核心在于其能够处理复杂的视频场景,包括动态背景和多个对象。

图片

而传统的omnimatte方法往往依赖于静止背景的假设,就比如AE,扣除图像需要一个静止的参考图层,或者绿幕,然后对每一帧图像进行图像识别,非常繁琐。

但它仍然存在一些局限性。

例如,它处理颜色混合的能力较强,但并不能捕捉作为对象效果的形状变形;此外,在处理复杂的多对象场景时,模型可能无法总是产生预期的结果。

但这个技术带来的影响是很大的,对一些电影影视后期的处理帮助非常大。

了解更多AI资讯,可以加入我们的交流群一起沟通讨论~

群活码.jpg

文章来源:  卓尔谟AI部落


上一篇:电商新赛道:可灵AI试衣+模特对口型

下一篇:Wordware AI开发平台7天融资3000万美元