Você quer a derivada de V(r) = r*g(r²)

Eu acredito pra caramba que g é uma função qualquer de r e não uma constante. Se for uma função genérica, então o negócio é usar a regra do produto com a regra da cadeia mesmo:

V'(r) = g(r²) + r*g'(r²)*2r
        = g(r²) + 2r²*g'(r²)

Agora, se por algum motivo do além g for uma constante, então dá pra reescrever o V como

V(r) = g*r³, e aí a derivada será essa coisa besta:
V'(r) = 3g*r²