An approach based on class activation maps for investigating the effects of data augmentation on neural networks for image classification

Abstract

Neural networks have grown more and more popular in the last few years as an effec tive tool for the task of image classification due to the impressive performance they have achieved on this task. In image classification tasks, it is common to use data augmentation strategies to increase the robustness of the trained networks to changes in the input im ages and to avoid overfitting. Although data augmentation is a widely adopted technique, the literature lacks a body of research analyzing the effects data augmentation methods have on the patterns learned by neural network models working on complex datasets. The primary objective of this work is to propose a methodology and set of metrics that may allow a quantitative approach to analyzing the effects of data augmentation in convolu tional networks applied to image classification. An important tool used in the proposed approach lies in the concept of class activation maps for said models, which allow us to identify and measure the importance these models assign to each individual pixel in an image when executing the classification task. From these maps, we may then extract met rics over the similarities and differences between maps generated by these models trained on a given dataset with different data augmentation strategies. Experiments made using this methodology suggest that the effects of these data augmentation techniques not only can be analyzed in this way but also allow us to identify different impact profiles over the trained models.

Redes neurais têm, nos últimos anos, crescido cada vez mais como ferramentas efetivas para a tarefa de classificação de imagens devido à alta performance que têm obtido nesta tarefa. Nessas tarefas de classificação, é comum o uso de estratégias de aumento de da dos. Elas aumentam a robustez dos modelos contra variações nas imagens de entrada e ajudam a evitar overfitting. Embora aumento de dados seja uma técnica amplamente ado tada, a pesquisa na área ainda falta com trabalhos que analisem os efeitos que métodos de aumento de dados têm nos padrões aprendidos por redes neurais trabalhando sobre data sets complexos. O principal objetivo deste trabalho é propor uma metodologia e conjunto de métricas que permitam uma abordagem quantitativa para a análise dos impactos que aumento de dados têm sobre redes neurais convolucionais na tarefa de classificação de imagem. Uma ferramenta importante utilizada nesta proposta de abordagem é o mapa de ativação de classes para os modelos de redes neurais, que nos permitem identificar e mensurar a importância que esses modelos dão para cada píxel individual numa imagem quando executam a tarefa de classificação. A partir destes mapas, podemos então extrair métricas sobre as similaridades e diferenças entre mapas gerados por modelos treinados em datasets com diferentes estratégias de aumento de dados. Experimentos feitos com esta metodologia sugerem que os efeitos destas diferentes técnicas de aumento de dados não apenas podem ser analisados desta maneira, mas também nos permitem identificar perfis de impacto diferentes sobre os modelos.