Qual o resultado do cálculo abaixo

Sim, está correto.
Se esta questão está numa prova de múltipla escolha, então o mais rápido a se fazer seria achar valores de u, v e w que satisfizessem as equações e então calcular o produto interno.
Nessa linha, uma boa escolha seria fazer u = x (o vetor unitário x, eu digo), v= y e w=-x-y
Perceba que u+v+w=0 e |u|=|v|=1 e |w|=√2

Portanto:

<u,v>=0

<u,w>=-1

<v,w>=-1

O que -2 como resposta.

No entanto, se a questão fizer parte de uma prova discursiva, então a resolução dela seria:
<u,-u>=<u,v+w>=<u,v>+<u,w>=-|u|²=-1

<v,-v>=<v,u+w>=<u,v>+<v,w>=-|v|²=-1

<w,-w>=<w,v+u>=<u,w>+<v,w>=-|w|²=-2

Somando as 3 equações, teremos:

2*(<u,v>+<u,w>+<v,w>)=-4

<u,v>+<u,w>+<v,w>=-2

Show!

Multiplica a soma por u depois por v depois por w ae tu faz um sistema de equaçao e acha a resposta