Как у таких уравнений найти дифферинциальное решение и составить партикулярное (частное) решение не считая коэффициенты?

Сначала решаем соответствующее однородное уравнение, у него правая часть равна нулю.
Для 1-го примера оно выглядит так:
y''+25y=0
Решение ищем в виде y=e^(k*x), отсюда появляется характеристическое уравнение
k^2+25=0, его корни k=+-5i, и общее решение однородного уравнения
yoo=C1*sin(5x)+C2*cos(5x)

Теперь мы должны найти частное решение неоднородного уравнения. В правой части стоит сумма специальных функций - квазимногочленов.

Общий вид квазимногочлена:
e^(a*x)*(Pn*sin(b*x)+Qm*cos(b*x)), где
a, b - константы
Pn, Qm - какие-то многочлены своих степеней n и m.

Видим, что в правой части стоит сумма 2-ух квазимногочленов:
f1=3*sin5x-cos5x (для него a=0, b=5, Pn=3, Qm=-1)
f2=15x (для него a=0, b=0, Pn=0, Qm=15x)

Для каждого из этих многочленов ищем свои частные решения.
Частное решение ищется в виде yчн=e^(a*x)*(Rk*sin(b*x)+Nk*cos(b*x)), где
Rk, Nk - произвольные многочлены степени k, а
степень k - это максимум из n и m - степеней многочленов Pn и Qm

Еще особо важно отметить, если число a+-b*i (i - комплексная единица) является корнем характеристического уравнения, то это частное решение умножается на x^r, где
r - кратность корня.

Итак, для 1-го квазимногочлена f1=3*sin5x-cos5x ищем частное решение в виде:
yчн1=(A*sin(5x)+B*cos(5x))*x
Еще раз напомню, что для этого квазимногочлена a=0, b=5,Pn=3, Qm=-1.
Максимальная степень этих многочленов k=0 т. к Pn и Qm - константы.
Поэтому Rk=A, а Nk=B, A и B - произвольные константы.
Также для f1 число a+-b*i=+-5*i совпадает с корнями характеристического уравнения, поэтому еще умножаем на x в 1-ой степени (корни +-5*i простые - их кратность = 1).
Коэффициенты A и B придется искать, для этого нужно подставить yчн1 с его производными в исходное уравнение, только с правой частью f1. Здесь нужно все аккуратно проделать, я приведу конечный результат, когда мы перенесли все в левую часть и вытащили коэфф-ты при синусе и косинусе:
-(3+10B)*sin5x+(1+10A)*cos5x=0
Линейная комбинация двух линейно-независимых функций sin5x и cos5x равна нулю только в случае, когда коэфф-ты при этих функциях равны нулю, т. е:
-(3+10B)=0 и 1+10A=0, отсюда получаем A=-1/10 и B=-3/10
Нашли, что yчн1=((-1/10)*sin(5x)+(-3/10)*cos(5x))*x

Перейдем ко 2-ому квазимногочлену f2=15x
Для него a=0, b=0, Pn=0, Qm=15x
Максимальная степень k=1 у Qm, значит Rk=C*x+D и Nk=E*x+F - произвольные многочлены 1-ой степени
Число a+-b*i=0 не совпадает с корнями хар-ого уравнения +-5*i, значит на x домножать не нужно.
Отсюда получаем, что yчн2=E*x+F.
Коэфф-ты E и F находим также, подставляя yчн2 с производными в исходное уравнение с правой частью f2.
Получится:
5*F+(-3+5*E)*x=0
5*F=0=>F=0
-3+5*E=0=>E=3/5
yчн2=(3/5)*x

Частное решение целого неоднородного уравнения равно сумме частных решений yчн1 и yчн2:
yчн=yчн1+yчн2,
а общее решение исходного неоднородного уравнения yон равно сумме решения общего однородного ур-ия yoo и частного решения неоднородного yчн:
yон=yoo+yчн=C1*sin(5x)+C2*cos(5x)+((-1/10)*sin(5x)+(-3/10)*cos(5x))*x+(3/5)*x

Попробуйте сами сделать 2-ой пример, если не будет получаться, пишите.