determinar um vetor simultaneamente ortogonal aos vetores 2a+b e b-a, sendo a=(3,-1,-2) e b=(1,0,-3)

Primeiramente, fazemos as operações pedidas entre vetores:

\(2a+b = (2\cdot3+1, 2\cdot(-1)+0, 2\cdot(-2)-3) \\ 2a+b = (7, -2, -7)\)

\(b-a = (1-3, 0-(-1), -3-(-2)) \\ b-a = (-2, 1, -1)\)

Vetores ortogonais possuem produto interno (escalar) nulo. Ou seja, seja o vetor genérico que procuramos um (x, y, z):

\((x,y,z) \cdot (7, -2, -7) = 0 \\ (x,y,z) \cdot (-2,1,-1) = 0\)

Perceba que teremos um sistema de três incógnitas e duas equações, após a distribuição:

\(\begin{cases}7x-2y - 7z = 0 \\ -2x + y - z = 0 \end{cases}\)

Esse sistema é possível e indeterminado, justamente por ter mais incógnitas que equações. Se tomarmos alguma cota como 0, todas as outras resultarão em 0, pois essa é uma solução trivial. Podemos assumir algum outro valor, como \(x = 3\):

\(\begin{cases}-2y - 7z = -21 \\ y - z = 6 \end{cases}\)

Multiplicando por dois a segunda equação e somando com a primeira, obteremos:

\(\boxed{z = 1}\)

E substituindo esse valor na segunda equação, teremos:

\(\boxed{y = 7}\)

Logo, o vetor pedido será:

\(\boxed{(3,7,1)}\)