Publication:

Visualizando neuronas en redes neuronales convolucionales

Hoy en día, las Redes Neuronales Convolucionales son de vital importancia en Machine Learning cuando se trabaja con imágenes debido a su gran capacidad detectando objetos, reconociendo patrones en imágenes y demás. Sin embargo, al igual que el resto de modelos de Deep Learning, tienen un gran hándicap, que es su falta de interpretabilidad para un humano. Esto es por su estructura multicapa altamente no lineal. Y esta falta de transparencia limita su aplicación práctica a pesar de su gran rendimiento en numerosos problemas reales. Por tanto, el propósito de este trabajo es el de estudiar y analizar diferentes métodos y técnicas existentes para visualizar neuronas tanto de la última capa (las relativas a las decisiones) como de capas intermedias (para ver qué es lo que está aprendiendo la red) y llevar a cabo una comparativa de los métodos a través de diferentes imágenes y arquitecturas. De esta forma, podremos extraer conclusiones en un área de cada vez más relevancia.

Nowadays, Convolutional Neural Networks are of paramount importance in Machine Learning when working with images due to their great performance detecting objects, recongnizing patterns in images and so on. However, like the rest of Deep Learning models, they have a significant disadvantage which is their lack of interpretability for the human being. This is because of their multilayer nonlinear structure. And that absence of transparency, limits their application in practice although they perform impressively well in a large amount of different problems. Thus, the purpose of this project is to study and analyze different existing methods and techniques for visualizing neurons, either the ones from the last layer (those related to decisions) or the ones from intermediate layers (to see what the network is learning) and then carry out a comparative study of the methods through different architectures and images. In this way, we can draw conclusions in an area of growing relevance.