Поздновато, поэтому ошибки возможны.
Замена p=t+1/t
Получим f(p)= 2a*p^2-3p-10=0
Посмотрим, при каких p возможно одно или два решения исходного уравнения
t+1/t=p
(t^2-p*t+1)/t=0
t^2-p*t+1=0
D=(-p)^2-4*1*1=p^2-4
D > =0 при p < =-2 или p > 2,
1. Ищем a, при котором может быть два корня.
Если p1 и p2 корни уравнения f(p)= 2a*p^2-3p-10=0, то
для одного из них D=p^2-4 > 0,
а для другого D < 0, то есть -2 < p < 2.
Пусть p1 < p2, тогда нужно рассмотреть случаи
1) p1 < -2 < p2 < 2
Получаем 2 условия при f(p)= 2a*p^2-3p-10
2a*f(-2) < 0
2a*f(2) > 0
или
2a*(8a-4) < 0
2a*(8a-16) > 0
или
a*(a-1/2) < 0
a*(a-2) > 0
или
0 < a < 1/2
a < 0 или a > 2
Решений нет
2) -2 < p1 < 2 < p2
Получаем 2 условия при f(p)= 2a*p^2-3p-10
2a*f(-2) > 0
2a*f(2) < 0
или
2a*(8a-4) > 0
2a*(8a-16) < 0
или
a*(a-1/2) > 0
a*(a-2) < 0
или
a < 0 или a > 1/2
0 < a < 2
Решением будут 1/2 < a < 2
2. Ищем a, при котором может быть два корня.
Если p1 и p2 корни уравнения f(p)= 2a*p^2-3p-10=0, то
для одного из них D=p^2-4=0,
а для другого D < 0, то есть -2 < p < 2.
1) Если p1=2 корень уравнения 2a*p^2-3p-10=0,
то 2a*2^2-3*2-10=0, a=2
второй корень уравнения 4p^2-3p-10=0 будет равен p2=-1/4 и для него D=p^2-4 < 0
То есть при a=2 у исходного уравнения будет один корень
2) Если p1=-2 корень уравнения 2a*p^2-3p-10=0,
то 2a*(-2)^2-3*(-2)-10=0, a=1/2
второй корень уравнения p^2-3p-10=0 будет равен p2=5 и тогда D=p^2-4 > 0
То есть при a=1/2 у исходного уравнения будет два корня.
3. Особый случай a=0
У исходного уравнения будет 3 корня.
4. Особый случай
уравнение f(p)= - p^2-3p-10=0 имеет один корень.
D1=(-3)^2-4*2a*(-10)=80a+9
D1=0 при a=-9/80, p=3/(2*2*(-9/80))=-20/3
D=p^2-4 > 0. У исходного уравнения будет 2 корня.
Обобщая все, получим
a=-9/80, 1/2 < =a < 2 – 2 корня
a=2 – 1 корень.