A patchmatch-based approach for matte propagation in videos

Abstract

Despite considerable advances in natural image matting over the last decades, video matting still remains a difficult problem. The main challenges faced by existing methods are the large amount of user input required, and temporal inconsistencies in mattes between pairs of adjacent frames. We present a temporally-coherent matte-propagation method for videos based on PatchMatch and edge-aware filtering. Given an input video and trimaps for a few frames, including the first and last, our approach generates alpha mattes for all frames of the video sequence. We also present a user scribble-based interface for video matting that takes advantage of the efficiency of our method to interactively refine the matte results. We demonstrate the effectiveness of our approach by using it to generate temporally-coherent mattes for several natural video sequences. We perform quantitative comparisons against the state-of-the-art sparse-input video matting techniques and show that our method produces significantly better results according to three different metrics. We also perform qualitative comparisons against the state-of-the-art dense-input video matting techniques and show that our approach produces similar quality results while requiring only about 7% of the amount of user input required by such techniques. These results show that our method is both effective and user-friendly, outperforming state-ofthe- art solutions.

Apesar de avanços consideráveis em alpha matting de imagens naturais nas últimas décadas, video matting ainda continua sendo um problema difícil. Os desafios principais encarados pelos métodos existentes são a grande quantidade de interação do usuário requerida e inconsistências temporais em mattes entre pares de quadros adjacentes. Nesse trabalho, é apresentado um método temporalmente coerente de propagação do canal alfa em vídeos baseado em PatchMatch e filtros de suavização com preservação de arestas. Dado um vídeo de entrada e trimaps para alguns frames, incluindo o primeiro e o último, nossa abordagem gera alpha mattes para todos os quadros da sequência de vídeo. É apresentado, também, uma interface baseada em rabiscos para video matting que se aproveita da eficiência do nosso método para interativamente refinar os resultados. É demonstrada a eficácia da nossa abordagem usando-a para gerar mattes temporalmente coerentes para várias sequências de vídeo. Foi realizada uma comparação quantitativa com o estado da arte em técnicas de video matting que mostra que nosso método produz resultados significativamente melhores de acordo com três métricas diferentes. Além disso, foi realizada uma análise qualitativa contra técnicas de video matting que requerem um trimap por quadro que mostra que nossa técnica produz resultados similares usando apenas 7% da quantidade de interação do usuário requerida pelas outras técnicas. Esses resultados mostram que a técnica proposta é efetiva e fácil de usar superando o estado da arte.