algebra vetorial

Boa noite, 

Recomendo ler o livro de Geometria Analitica do Paulo Winterle pagina 153 e este arquivo é bacana também http://www.mat.ufmg.br/~rodney/notas_de_aula/retas_e_planos.pdf para endender melhor o raciocinio.

Para a solução precisamos de um ponto que pertence ao plano, que no caso é o ponto de origem: O (0, 0, 0) e o vetor normal N de uma reta perpendicular ao plano, neste caso o vetor da reta AB.

O vetor N = AB = (xB-xA, yB-yA, zB-zA) = (0-1, 1-0, 0-0) = (-1, 1, 0)

Temos que determinar o vetor que do ponto C ao ponto O que pertence ao plano:

CO = (xO-xC, yO-yC, zO-zC) = (0-1, 0-0, 0-1) = (-1, 0, -1)

A formula para se obter a distancia é d(C, α) = |(CO) · (N)| / ||N||

d(C, α) = |(-1, 0, -1) · (-1, 1, 0)| / ||(-1, 1, 0)|| =

= |(-1)·(-1) + 0·1 + (-1)·0| / (√(-1)²+(1)²+0² = 1/√2 = (√2)/2

Espero que o raciocinio esteja correto! Bons estudos!