Cada vez que una red neuronal hace un forward pass, puede evaluar la función tanh millones de veces. Cada plugin de audio que emula la saturación de un amplificador a válvulas aplica tanh a cada muestra, 44.100 veces por segundo. En ambos escenarios, la implementación estándar basada en exponenciales se vuelve un cuello de botella. Por eso existe toda una disciplina alrededor de cómo aproximar tan
Aproximar tanh en ML: Padé, K-TanH y bit-hacks IEEE-754
lu1tr0n·Dev.to··1 min read
D
Continue reading on Dev.to
This article was sourced from Dev.to's RSS feed. Visit the original for the complete story.