Vou apenas dar as diretrizes , com isso reflita e tente concluir o exercício .
a)
Se

, a inversa (talvez) satisfaz ,

.

e

são subconjuntos . Neste caso especifico do seu exercício ,

e

.
Em outras palavras para você determinar a função inversa de

, você precisar trocar " y" com " " x " e isolar "y" . Grosseiramente , o que era o dominio " x " virou a imagem "y" , isto é a inversa de uma função . A notação

denota isso .
Vale ressaltar que omitir algumas informações , para não confundi você .
b)
Basta lembra que ,

e

.
Da mesma forma que vc calcula , por exemplo

e

, você obterá as composições de funções trocando " x " por

, se você quer

o outro caso é semelhante a este .
Para estudar este assunto no youtube check
aqui