Sabendo que o vetor u =(2,1,-1) forma um ângulo de 60° com o vetor AB determinado pelo pontos A ( 3,1-2) e B ( 4,0,m), calcular o valor de m.?

u = (2, 1, -1)

P = (3, 1, -2) 
Q = (4, 0, m)

v = Q - P = (1, -1, m + 2) 

lul = √(2² + 1² + 1²) = √6 
lvl = √(1² + 1² + (m + 2)²) = √(m² + 4 m + 6)

produto escalar 

< u,v > = (2 - 1 - m - 2) = -1 - m 

cos(60) = < u.v > / lullvl

1/2 = (-1 - m)/(√6 * √(m² + 4m + 6)) 

m = -4 

Temos que determinar AB 

B - A = (4-3,0-1,m-(-2)) 

B - A = (1,-1,m+2)

Sabemos que

u*(AB) = (2*1 +1*(-1)+(-1)(m+2)) = (2-1-m-2) = -1 - m 

Sabemos que cos 60º = 1/2 

Juntando essas informações, temos