Basta obter a solução geral do sistema linear homogêneo e comparar o resultado com as alternativas .
Inicialmente , temos o sistema escrito sob a forma :

. (A,B,C são as mesmas matrizes colunas dadas )
Esta expressão é equivalente a

, onde

é uma matriz

em que suas colunas 1,2,3 são respectivamente as matrizes colunas

.
Graças ao wolfram alpha , já verificamos que

, veja
http://www.wolframalpha.com/input/?i=de ... C3%7D%7D++ .
Isto significa que a matriz

não é invertível o que implica que o sistema é incompatível (não há solução ) ou compatível indeterminado (infinitas soluções ) , mas como todo sistema linear homogêneo possui pelo menos a solução trivial que é o vetor nulo

,então por

ser singular , concluímos que o sistema em questão é compatível e indeterminado (possui infinitas soluções ) . Aqui já eliminamos o item (a) .
Segundo wolfram alpha ,solução geral do sistema é

e

. Mas faça as contas .