f(x) =- (5 + k) x² + x - 3

Não entendi o que precisa ser calculado neste exercício mas acredito que seja o valor de k, para que essa função seja do 2° grau ou o valor de k para que seja uma parábola com a concavidade voltada pra cima. Se for a primeira hipótese, basta fazer:

-(5+k) diferente de 0 => -5 - k diferente de 0 => -k = 5 => k = -5

Se for a segunda hipótese: -(5+k) > 0 => -5 - k > 0 => -k > 5 => k < -5 ( sempre que multiplicamos por -1 em uma inequação, o sinal da desigualdade muda)