Sejam os vetores abaixo relacionados: Determine k de modo que os vetores u e v sejam ortogonais, e em seguida assinale a ALTERNATIVA CORRETA.

Se o produto escalar entre dois vetores for nulo, isso quer dizer que estes vetores são ortogonais.

Esse tipo de questão é bem comum. Muito provavelmente você tem dois vetores com coordenadas desconhecidas e conhecidas. Faça o produto escalar entre eles, você vai encontrar uma equação com incógnita k; a partir daí é só determinar k.
Também é provável que seja uma equação quadrática (esses livros nunca facilitam), então k pode assumir mais de um valor de modo que os vetores sejam ortogonais.

Espero ter ajudado, qualquer coisa posta o restante da questão :)