Тут скорее чистая математика, нежели физика.
Начальное положение лодок - равносторонний треуголник. В силу симметрии условий очевидно, что оно так и будет всё время, просто этот треугольник будет поворачиваться и скукоживаться.
Ну и рассмотрим, что произойдёт через времяч dt. Каждая точка сместится на dL = vdt вдоль стороны треугольнка (в его первоначальном положении) . При этом расстояние от точки до точки (т. е. от лодки до лодки) изменится на величину проекции вот этого смещения на направление стороны, т. е. на -dL*cos(pi/3). минус - потому что расстояние уменьшается. Так что имеем простенькое дифференциальное уравнение dx = -vdt*cos pi/3 с начальным условием х (0) = L.
Надеюсь, решить его не составит труда...