O que são ataques adversariais?

Ataques adversariais são técnicas utilizadas para enganar modelos de inteligência artificial, especialmente em sistemas de aprendizado de máquina. Esses ataques envolvem a criação de entradas manipuladas que parecem normais para o modelo, mas que levam a resultados incorretos ou indesejados. Por exemplo, uma imagem levemente alterada pode ser classificada de forma errada por um modelo de reconhecimento de imagem. Esses ataques levantam preocupações sobre a segurança e a robustez dos sistemas de IA.