Apr
15
Paper accepted at Jornadas SARTECO 2024 (III)
April 15, 2024 | | Comments Off on Paper accepted at Jornadas SARTECO 2024 (III)
The paper entitled “Tolerancia a fallos múltiples en redes convolucionales en coma flotante de 16 bits
utilizando códigos correctores de errores” written by J.C. Ruiz-García, D. Andrés-Martínez, L.J. Saiz-Adalid, and J. Gracia-Morán has been accepted at Jornadas SARTECO 2024.
Abstract
Multitud de sistemas utilizan redes convolucionales para identificar objetos en las imágenes que analizan. Este análisis conlleva millones de operaciones con parámetros que, por cuestiones de eficiencia, se almacenan en los aceleradores que los utilizan. Reducir la precisión de estos parámetros sin cambiar la de la red permite procesar modelos de inferencia más complejos usando el mismo almacenamiento. Si estos parámetros se alteraran durante el análisis de una imagen, la identificación realizada podría ser incorrecta, lo que podría tener consecuencias inaceptables en ámbitos aplicativos críticos. Este artículo propone tolerar estas alteraciones utilizando códigos correctores de errores en redes que trabajen con coma flotante de 16 bits. Para ello nos serviremos de los bits no significativos e invariantes existentes en los parámetros de la red. Los primeros, se determinarán mediante inyección de fallos, y son aquellos cuya alteración no afecta significativamente a la precisión de la red. Los segundos, se identificarán analizando los valores de los pesos existentes, y son aquellos cuyo valor es constante. Al no tener que ser protegidos, estos bits pueden albergar los bits de paridad de los códigos a utilizar. Como caso de estudio se trabajará con las versiones BF16 de las redes convolucionales LeNet-5 y GoogLe-Net que requieren de la protección de más de 45 mil, y 6.5 millones, de parámetros, respectivamente. Los resultados muestran que la propuesta permite proteger estas redes sin modificar su huella de memoria, sin requerir su reentrenamiento, alterando mínimamente su precisión y minimizando el uso de recursos.
Comments