Como faço pra provar q o conjunto de todas as matrizes A de tamanho nxn, com as quais Ax=0 só tem solução trivial, é ou não um subespaço de Mnxn?

É um subespaço sim. Sejam A1, A2 pertencentes ao conjunto das matrizes citado acima e k um número real. Então (k*A1)x = k*(A1x) = k*0=0. Além disso, (A1 + A2)x = A1x + A2x = 0 +  0 = 0. Na verdade, não precisa ter só a solução trivial, vale pra qualquer sistema homogêneo. 

Para que a equação \(Ax=0\) somente tenha a solução trivial, temos:

\(det(A)\neq 0\)

Para que um conjunto W seja subespaço vetorial de outro, três condições devem ser satisfeitas:

• \(\exists 0\in W\ |\ 0+v=v,\ \forall v\in W\)
• \(u,v\in W\Rightarrow u+v\in W\)
• \(u,v\in W\Rightarrow u\cdot v\in W\)

Mas perceba que o \(0\) matricial é a matriz nula, entretanto sabemos que:

\(det(0)=0\)

Logo o conjunto dado não é um subespaço vetorial das matrizes nxn.