Olá, boa tarde!
Parabéns! Montou corretamente, agora é só resolver..
O Fantini cometeu um pequeno erro em
5b = 3a.
Da primeira equação, temos:

Multiplicando cruzado, temos:

Logo, temos um sistema de equações com duas incógnitas (a e b). Basta resolver.. Vou fazer por "substituição", acompanhe:

Substitua o valor de "a" na segunda equação.

Consegue seguir a partir daqui?
Qualquer coisa estou por aqui
Att,
Cleyson007