После простейших преобразований числитель будет иметь вид:
((a^2)-1)*(a-3)=(a-1)*(a+1)*(a-3).
В результате сокращения со знаменателем получишь (a+1)*(a-3)=a^2-2a-3.
Но тот же результат можно получить, если числитель разделить на знаменатель сразу "столбиком", т. е. многочлен на многочлен
Условие задания, по-видимому, записывается так: (а³-3*а²-а+3)/(а-1), а не так: а³-3*а²-а+(3/а) -1, хотя по форме записи напрашивается именно последнее.. . Во втором случае, похоже, не удается добиться существенного упрощения выражения или разложения на множители. В первом случае очень легко видеть, что в числителе есть общий множитель (а-3): (а³-3*а²)-(а-3)=а² *(а-3)-(а-3) = (а-3)*(а²-1)=(а-3)*(а-1)*(а+1). Видно, что дробь сокращается на (а-1) и остается (а-3)*(а+1).