O que é Overflow?

Se voce estiver referindo-se ao "buffer overflow", é quando algum programa utiliza mais meméoria do que deveria.

Isso acontece quando um programa escreve mais dados que o buffer permite. Uma das consequencias possíveis é o DoS.

é quando um programa ultrapassa o uso de memoria estabelecido

Transbordamento de dados. Em segurança computacional e programação, um transbordamento de dados ou estouro de buffer (do inglês bufferoverflow ou buffer overrun) é uma anomalia onde um programa, ao escrever dados em um buffer, ultrapassa os limites do buffer e sobrescreve a memória adjacente.