Метод вариации произвольных постоянных для уравнений высших порядков.

Да всё тут проще паренной репы если действовать путём замены:
y'' = u
xu' + u = x + 1
u' + u/x = 1 + 1/x - линейное неоднородное уравнение с переменным коэффициентом при u(x)
Сначала решим однородное линейное уравнение u'+u/x=0 разделением переменных:
du/u = -dx/x
∫du/u = -∫dx/x
㏑|u| = -㏑|x| + c
u = C/x
Затем решаем неоднородное уравнение, варьируя постоянную C:
u' = (C'x - C)/x² = C'/x - C/x²
u' + u/x = C'/x - C/x² + C/x² = C'/x = 1 + 1/x
C' = x + 1
C = x²/2 + x + α
u = C/x = x/2 + 1 + α/x
Проверяем найденное решение для u(x):
u' = ½ - α/x²
u' + u/x = ½ - α/x² + ½ + 1/x + α/x² = 1 + 1/x - решение найдено правильно !
Находим решение для у(х)
y'' = u
y' = ∫udx = x²/4 + x + α•㏑|x| + β
y = ∫y'dx = x³/12 + x²/2 + α•(x•㏑|x|-x) + βx + γ
Ответ: y(x) = x³/12+x²/2+αx•㏑|x/e|+βx+γ
А теперь всё сами проверьте шаг за шагом!

Ну вот так

Тут нужен не гайд, а просто понимание базы. Ее, кстати, можно понять и на уравнении 2-го порядка. Выкиньте для начала правую часть, и найдите три независимых решения однородного уравнения. Обзовем их y1, y2, y3. Общее решение однородного уравнения тогда примет вид:
y = c1 y1 + c2 y2 +c3 y3.
Метод вариации заключается в том, что c1, c2, c3 заменить функциями, такими, чтобы y было общим решением неоднородного уравнения. Но если просто вставить y в таком в виде в уравнение, то получим некоторый произвол. Разрешить этот произвол неплохо бы так, чтобы не возникло несовместных систем уравнений, и чтобы все выглядело наиболее просто. Берем производную от y с учетом того, что c1, c2 ,c3 - функции:
y' = (c1 y1' + c2 y2' + c3 y3') + (c1' y1 + c2' y2 + c3' y3).
Потребуем, чтобы вторая скобка была равна нулю, тогда производная будет выглядеть так же, как если бы c1, c2, c3 были константами:
y' = c1 y1' + c2 y2' + c3 y3',
c1' y1 + c2' y2 + c3' y3 = 0.
Берем вторую производную:
y'' = (c1 y1'' + c2 y2'' + c3 y3'') + (c1' y1' + c2' y2' + c3' y3').
Требуем, чтобы вторая скобка была равна нулю, опять получаем y'' в ом же виде, будто c - константы:
y'' = c1 y1'' + c2 y2'' + c3 y3'',
c1' y1' + c2' y2' + c3' y3' = 0.
Подставляем y в исходное уравнение. Из-за уже введенных двух "требований" подстановка окажется простой, от всего уравнения останется:
x (c1' y1'' + c2' y2'' + c3' y3'') = x + 1.
Получается три уравнения для трех неизвестных функций:
c1' y1 + c2' y2 + c3' y3 = 0,
c1' y1' + c2' y2' + c3' y3' = 0,
x (c1' y1'' + c2' y2'' + c3' y3'') = x + 1.
Все просто и понятно. И вдобавок, если третье уравнение разделить на x, то определитель этой системы - определитель Вронского. Функции у вас - независимые, а потому он не равен нулю, и проблем с решением возникнуть не должно.