Olá Ananda, boa noite!
Na obtenção do seno através da relação fundamental, há um passo omitido por você que é o módulo ao extrair a raiz quadrada dos dois membros.
Lembrando da definição de módulo:

Repare que o sinal negativo é para garantir que o resultado seja sempre positivo.
Com a substituição que você fez, o

já é definitivamente negativo, está correto.
E ainda,

.
Ou seja,

já é positivo (como pode-se constatar em sua última raiz), por isso não cabe o segundo caso da definição de módulo.
Ananda, apenas outro comentário:
Quando eu fiz para conferir, também utilizei o arco duplo, mas do seno.
Achei mais imediato, tente fazer.
Além de aplicarmos a relação fundamental uma única vez. Você precisou aplicar duas (no começo e no final).
Os números também ficam menores.
Eu fiz a seguinte substituição:


Aqui, as justitificativas do sinal são as seguintes:


Espero ter ajudado e um ótimo feriado!