Так и поставить: дробь возвести в квадрат и поставить.
То, что под знаком арктангенса, возводим в квадрат:
x^2 / (1 + sqrt(1-x^2))^2.
Подставляем это в выражение для производной арктангенса вместо x^2
1 / (1 + x^2 / (1 + sqrt(1-x^2))^2).
Далее надо найти производную той функции, которая стоит под знаком арктангенса по формуле производной частного:
(x'*(1 + sqrt(1 - x^2)^2) - x*(1 + sqrt(1 - x^2)^2)') / (1 + sqrt(1 - x^2)^2)^2
Осталось найти только производную 1 + sqrt(1 - x^2), ибо всё остальное выискивыется без труда.
Она равна производной функции sqrt(1 - x^2)
Перед нами корень. Формула для производной корня sqrt(x)' = 1/2sqrt(x). Т. к. sqrt(1-x^2) - сложная функция, то в формулу вместо буквы х надо подставить подкоренное выражение (1-x^2), а потом умножить на производную -2х этого выражения
Окончательный ответ должен быть таким:
(1 / (1 + x^2 / (1 + sqrt(1-x^2))^2) *
* ((1 + sqrt(1 - x^2)^2) + (x^2/sqrt(1 - x^2))) / (1 + sqrt(1 - x^2)^2)^2