Estou em dúvida de como prosseguir após chegar em uma determinada matriz. Segue o enunciado e até onde eu parei.
Sendo A=
uma matriz ampliada de um sistema. Determinar os valores de a e b para que o sistema tenha infinitas soluções, uma solução e não tenha solução.Escalonei até:

Não sei como concluir e se estou no caminho certo, alguma sugestão?
Agradeço desde já.

e
.Mas lembre-se , quando temos uma linha inteira composta por zeros , vamos ter infinitas soluções .Para cada linha composta por zeros implica uma variável em função da outra . E quando não há solução , ocorre o seguinte
com
. E , é fácil ver que ,
.

.
.
o sistema não tem solução .(Verifique ! )
,
esta notação é o mesmo que
. Neste caso assumirmos
. Seu comentário foi importante , não necessariamente se
quer dizer que a o sistema linear não tem solução, o que acontece é que se
não existe a operação
. A propósito , conseguiu concluir o exercício ? Existe um gabarito para este exercício ? Comente qualquer coisa .![\frac{\sqrt[]{\sqrt[4]{8}+\sqrt[]{\sqrt[]{2}-1}}-\sqrt[]{\sqrt[4]{8}-\sqrt[]{\sqrt[]{2}-1}}}{\sqrt[]{\sqrt[4]{8}-\sqrt[]{\sqrt[]{2}+1}}} \frac{\sqrt[]{\sqrt[4]{8}+\sqrt[]{\sqrt[]{2}-1}}-\sqrt[]{\sqrt[4]{8}-\sqrt[]{\sqrt[]{2}-1}}}{\sqrt[]{\sqrt[4]{8}-\sqrt[]{\sqrt[]{2}+1}}}](/latexrender/pictures/981987c7bcdf9f8f498ca4605785636a.png)
e elevar ao quadrado os dois lados)