Não consegui entender a promeira integral, põe uns parênteses aí que ajuda kkkk.

Mas se a segunda for isso aqui: \(x^2\sqrt{x^3 + 1}\) dá certo resolver por substituição.

Seria necessário somente uma substituição, mas pra você entender direitinho vou fazer duas. A primeira seria fazer a substituição \(z = x^3\), e derivando dos dois lados fica \(dz = 3x^2 dx\), agora realisamos a substituição pois 

Ficou perdido? Dê uma olhadinha nesse nosso material! :)

https://www.passeidireto.com/arquivo/11117596/regras-derivadas-e-integrais