(i) Para que haja uma indeterminação do tipo 0/0, precisamos que . Disso você deve obter que b = 2a.
(ii) Usando (i), você vai precisar resolver a equação .
Note que isso é o mesmo que .
Para resolver o limite no lado esquerdo da equação, multiplique tanto o numerador quanto o denominador por . Em seguida, lembre-se do produto notável .
De (i) e (ii) temos que não existe o limite , já que os seus laterais são distintos.
Desse modo, o seu limite original não existiria. Mas, você quer que esse limite exista e seja igual a 1/4. Daí a estratégia de montar a indeterminação do tipo 0/0.
Quanto a saber se sua resposta está certa, você mesmo pode conferir! Basta substituir os valores de a e b no limite original e verificar se ele será igual a 1/4.