Bom, não sei exatamente o que tem de errado na sua resolução. Mas nas equações trigonométricas em geral você tem que tomar muito cuidado quando for dividir, pois seno, cosseno e tangente podem ser iguais a zero aí dá problema no resultado. Deve ter dado algum problema na hora em que você dividiu tudo por sen x ali, é a única explicação que eu posso imaginar.
Eu resolvi da seguinte maneira e cheguei a uma resposta igual à do gabarito.


Colocando sen x em evidência:
![sen x [(1/cos x) - 2] = 0 sen x [(1/cos x) - 2] = 0](/latexrender/pictures/c51ffe705ba41712cb61f7c170a6ca64.png)
Para o resultado de uma multiplicação ser zero, um dos fatores obrigatoriamente é igual a 0, então:


ou



S = {0 ; pi/3}