Under the Hood of Neural Networks: Characterizing Learned Representations by Functional Neuron Populations and Network Ablations
preprint
Estudio de representaciones aprendidas mediante poblaciones funcionales de neuronas, patrones de activación y ablaciones de la red.
Recursos
Historial de publicación
Preprint: 2 de abril de 2020. La institución de los autores anunció su aceptación en ICAI 2021 en mayo de 2021. La cita siguiente corresponde al manuscrito público de arXiv.
Resumen
Este estudio agrupa neuronas según sus patrones de activación y utiliza ablaciones de la red para investigar el papel funcional de las representaciones aprendidas. Examina la relación entre la selectividad de activación y la contribución de una neurona al rendimiento, mostrando las limitaciones de usar cualquiera de estas propiedades por separado para evaluar su importancia. El enfoque relaciona las neuronas individuales con el comportamiento de poblaciones funcionales.
Cita
@misc{meyes2020underthehood,
author = {Meyes, Richard and Waubert de Puiseau, Constantin and Posada-Moreno, Andres and Meisen, Tobias},
title = {Under the Hood of Neural Networks: Characterizing Learned Representations by Functional Neuron Populations and Network Ablations},
year = {2020},
eprint = {2004.01254},
archivePrefix = {arXiv},
url = {https://arxiv.org/abs/2004.01254}
}