qual é a formula da substituição da integral

Não há uma fórmula de substituição. Mas, um método de resolução de uma integral através da substituição algébrica de um termo. 

É, portanto, de suma importância o desenvolvimento da capacidade analítica, para selecionar o termo mais adequado a uma possível substituição. Além, é claro, do domínio sobre as técnicas de derivação. 

Um exemplo de substituição, para resolução de uma integral:

Determinar a resposta para a integral indeterminada  ∫senx•cosx•dx, através do método da substituição algébrica:

 ∫senx•cosx•dx 

onde u=senx, e du/dx = cosx, logo du=cosx•dx

Após a substituição, temos: 

 ∫u•du = u²/2 + c

Agora, é só substituir novamente para a variável inicial e teremos a solução para a integral inicial:

u²/2 + c = [sen²x]/2  + c = [0,5 • sen²x] + c