ну что же тут сложного то ?))
решаете, сначала, y' - 3 * y = 0, получаете dy / y = 3 * dx, то есть y(x) = D * exp(3 * x)
далее решаете уже с правой частью, подставляете решение вида
y1(x) = A + B * x + C * x²
B + 2 * C * x - 3 * (A + B * x + C * x²) = 5
приравниваете члены при одинаковых степенях x
B - 3 * A = -5
2 * C - 3 * B = 0
-3 * C = 0
отсюда.. C = 0, B = 0, A = 5/3 (хотя да, можно было даже не брать члены с x и x^2, задумался о другом)))
достаточно подставить y1(x) = A
-3 * A = -5
A = 5/3
то есть решение будет y(x) = D * exp(3 * x) + 5/3
так как y(0) = 0, то D + 5/3 = 0, то есть D = -5/3
ну и y(ln(2)) = -5/3 * (exp(3 * ln(2)) - 1) = -5/3 * (8 - 1) = -35/3
ps: решение однородного уравнения, в принципе, можно найти и без разделения дифференциалов.
решение подставляется в виде y(x) = exp(λ * x) в уравнение, получаем
λ - 3 = 0, то есть λ = 3 и решение выглядит, как и раньше, в виде y(x) = D * exp(3 * x)
Я уже думал, что ничто больше не сможет сегодня сломать мой мозг.