Почему в данном случае не работает формула V0t+at²/2 ?

Формула x(t) = v0t + at² подходит для описания равноускоренного движения из начала отсчета. В случае равноускоренного движения график скорости представляет собой прямую. А в вашем случае график имеет вид ломаной линии. То есть движение не равноускоренное.

На интервале от 2 до 10 с мы имеем отрезок прямой, тут формулу x(t) = v0t + at² вполне можно применить. Но если мы посчитаем x(10) − x(2), то получим не путь, а перемещение тела, то есть разницу между координатами.

Намекаю: в данном примере a должно быть ОТРИЦАТЕЛЬНЫМ.

есть разница путь и расстояние. это расстояние 0, а путь 40. разбейте на 2 участка.
другими словами вы сходили в магазин за пивом, путь получился до магазина + обратно.

От 2 до 6 секунд считаем путь. На этом участке v0=10 и ускорение отрицательно.
S1=10*4-2,5*4²/2=40-20=20 м
Считаем от 6 до 10 секунд. На этом участке нач. скорость=0, ускорение положительно.
S2=0+2.5*4²/2=20 м
В сумме это 40

Тело с 2с до 6с доехало до одной точки, а потом, за равно такое же время, с 6с до 10с оно, развернувшись, вернулось на место (ибо по скорости оно именно развернулось), а путь - прямая от начальной точки, до конечной. Если прикинуть, что по резульатам там 20 и 20, то вторая 20 должнать быть отрицательная, а 20 + (-20) = 0

Скорость изменения скорости(ускорение) здесь отрицательная (т.к.скорость снижалась).