Diseño empírico de una arquitectura de perceptrón multicapa binario residual

Abstract

Desde su introducción en 2015 por Courbariaux, las redes neuronales binarias han surgido como una alternativa prometedora para reducir los grandes requisitos de cómputo, memoria y almacenamiento en modelos de aprendizaje profundo, permitiendo su implementación en dispositivos con recursos limitados, como los utilizados en el cómputo de frontera. No obstante, estos modelos presentan una notable degradación en su precisión en comparación con sus equivalentes de punto flotante. En este estudio, se emplean las últimas recomendaciones de diseño de arquitecturas binarias para desarrollar empíricamente una arquitectura de perceptrón multicapa binario residual que reduce los efectos adversos del proceso de binarización. La intención es proporcionar un modelo sencillo de implementar que no requiera un nivel experto en diseño de redes neuronales para su uso en dispositivos de baja potencia.