O sistema A, composto por 3 partículas, e o sistema B, composto por 5 partículas, estão em caixas isoladas.

não sei essa..

1C ------------Q---------------------4C 
1m 3m 

Primeiramente, como as cargas 1C e 4C são positivas, então para que a resultante seja nula em 1C, a carga Q tem que ser negativa. Isso elimina as alternativas a),b) e c) 

Calculando,
A força que 4C age em 1C tem que ser igual a força que a carga Q age sobre 1C. 
Vou chamar a força que 4C age em 1C de F41, e a força que a carga Q age sobre 1C de FQ1 

F41 = k.4.1/4² = K/4 
FQ1 = K . Q.1/1² = K.Q 

Igualando F41 com FQ1, temos: 
K/4 = K.Q 
Cancelando os k, temos Q = 1/4 C. 
Como a força exercida pela carga Q e 1C tem que ser de atração, então Q tem q ser negativa. 
Portanto Q = -1/4C