Помогите найти ошибку !!!

во-первых, записанное равенство точно верно лишь при n=a-1
во-вторых, и это главное:
lim (a/b) = lim(a) / lim(b) только тогда, когда пределы существуют и lim(b) не равен нулю
то есть неверен переход
lim ( ((x-1)^2 A + N)/((x-1)^2 B +M) ) = ( lim ((x-1)^2 A + N) ) / lim((x-1)^2 B +M)
совершив такую же ошибку, можно получить тот же неправильный ответ и попроще
lim (b (x^a -1) + a(1-x^b))/(x^b (x^a -1) + (1-x^a)) =
= lim (b (x^a -1) + a(1-x^b))/ lim(x^b (x^a -1) + (1-x^a)) =
= lim (b (x^a -1) + a(1-x^b))/ lim(x^b (x^a -1) + (1-x^a)) =
= lim (b (x^a -1)) + lim(a(1-x^b))/ (lim(x^b (x^a -1)) + lim (1-x^a)))=
= lim (b (x^a -1)) + 0)/ (lim(x^b (x^a -1)) + 0)=
= lim (b (x^a -1)) )/ (lim(x^b (x^a -1)) )=
= lim (b (x^a -1)/ (x^b (x^a -1)) )=
= lim (b/x^b) = b
теперь, по поводу многочленов: условия 1) 2) относятся к делению многочленов с остатком
если многочлен равен нулю при x=x0, то он делится на x-x0 без остатка
многочлены (при натуральных a и b) b x^a - a x^b - b + a и x^(a+b)-x^a-x^b+1 должны, следовательно, делиться на x-1
оказывается, эти многочлены делятся и на (x-1)^2
за основу возьмём формулу, которая получается при делении с остатком x^a на (x-1)^2
x^a=(x-1)^2 (x^(a-2)+2 x^(a-3)+...+(a-2) x + (a-1) ) + (a x - (a-1)),
отсюда
b x^a - a x^b - b + a = (x-1)^2 b (x^(a-2)+2 x^(a-3)+...+(a-2) x + (a-1)) + b a x - b (a-1) -
- (x-1)^2 a (x^(b-2)+2 x^(b-3)+...+(b-2) x + (b-1)) - a b x + a (b-1) - b + a =
= (x-1)^2 (b x^(a-2) + 2 b x^(a-3) + .+2b(a-2) x + b(a-1) - a x^(b-2) - 2 a x^(b-3) - .-2a(b-2)x - a(b-1))
аналогично
x^(a+b)-x^a-x^b+1=(x-1)^2 (x^(a+b-2)+2 x^(a+b-3)+...+(a+b-2) x + (a+b-1) - x^(a-2)-2 x^(a-3)-...-(a-2) x - (a-1)-x^(b-2)-2 x^(b-3)-...-(b-2) x - (b-1))
тогда их отношение равно отношению того, что стоит в скобках после (x-1)^2
при x=1
b x^(a-2) + 2 b x^(a-3) + .+2b(a-2) x + b(a-1) - a x^(b-2) - 2 a x^(b-3) - .-2a(b-2)x - a(b-1) =
=b (a(a-1)/2) - a (b(b-1)/2) = ab (a-b)/2
при x=1
x^(a+b-2)+2 x^(a+b-3)+...+(a+b-2) x + (a+b-1) - x^(a-2)-2 x^(a-3)-...-(a-2) x - (a-1)-x^(b-2)-2 x^(b-3)-...-(b-2) x - (b-1)=(a+b)(a+b-1)/2 - a(a-1)/2 - b(b-1)/2=ab
отношение равно (a-b)/2 это и есть ответ
на самом деле и при дробных a,b
lim ((b (x^a-1) - a(x^b-1))/(x-1)^2) = ab (a-b)/2 и предел отношения знаменателя к (x-1)^2 равен ab
но при дробных a,b это доказать труднее

оба многочлена должны делиться на (x-1)^2 нацело

а вообще, проще представить 1-x^n как многочлен от (1-x) и использовать эквивалентность
1-x^n эквивалентно n(1-x)-n(n-1)(1-x)^2/2

ответ получается (b-a)/2