Даны точки А (3;-4) и В (0;2).На оси Оу найти точку М так, чтобы расстояние S=AM+MB было наименшим

Наименьшее растояние это прямая, так как B на OY, а A нет, то M = B
В общем случае:
AM = sqrt((xa - xm)^2 + (ya - ym)^2)
BM = sqrt((xb - xm)^2 + (yb - ym)^2)
Выражаем уm через xm и подставляем в выражение. Потом берём производную S=AM+MB и ищем её нули. Потом ищем минимум. это и будет ответом.