Qual é o papel das funções de ativação em uma rede neural e quais são algumas das funções comumente usadas?

As funções de ativação em uma rede neural são responsáveis por introduzir não linearidades no modelo, permitindo que a rede aprenda e represente relações complexas nos dados. Algumas funções comumente usadas incluem a sigmóide, tangente hiperbólica (tanh), ReLU (Rectified Linear Unit) e Leaky ReLU. Cada uma dessas funções tem suas próprias características e é escolhida com base no problema e na arquitetura da rede neural.