Por favor, tenha mais cuidado ao digitar as notações matemáticas!
Note que o texto "1 + x + x² + x³ / 1- x +x² - x³" é o mesmo que:

Ao que parece, você quer a seguinte expressão:

Nesse caso, você deveria ter escrito algo como: "(1 + x + x² + x³)/(1- x +x² - x³)". Note que o uso dos delimitadores de forma adequada é fundamental!
Agora, organizando mais um pouco, você quer derivar a função:

Para isso, basta aplicar a regra do quociente:



![f^\prime(x) = \frac{2(x^2 + 1)^2}{[-(x-1)(x^2+1)]^2} f^\prime(x) = \frac{2(x^2 + 1)^2}{[-(x-1)(x^2+1)]^2}](/latexrender/pictures/66b458cad137164043da0ce6f65d7ea1.png)
