Что общего между разложением функции в ряд Фурье и разложением вектора в евклидовом пространстве

Это почти одно и то же, просто в случае конечных линейных комбинаций у вас чистая алгебра, а сумма ряда - это еще и анализ.

вообще-то это одно и то же.

пространство непрерывных функций - линейное, синусы-косинусы образуют в нем ортогональный базис, причем полный, интеграл в определении ряда фурье - это скалярное произведение (проверьте аксиомы).

особенно заметно для дискретного - там просто вектор из n компонент превращается в другой вектор из n компонент, не меняя длины. Просто смена базиса.

По-моему - только слово "разложение" - и то, что оно означает в самом широком смысле слова.

Нечто можно представить в виде суммы неких исходных компонент. При этом количество компонент и определение операции "суммы" теоретически может быть любым.
В таком случае, представление этого "нечта" в виде этой "суммы" можно назвать "разложением" по всем "слагаемым" этой "суммы".

Однако, конкретная математика разложения вектора на составляющие в евклидовом (кстати, а почему, собственно, именно в евклидовом пространстве? пространство тоже может быть любым, в том числе и с неевклиовой метрикой) пространстве и разложение функции в ряд Фурье (а почему, собственно, именно Фурье? это тоже не единственное разложение функции, которое может быть) - безусловно разная.

и там и там разлагается по ортогональному (линейно независимому) базису - в фурье - по ортогональным функциям ( синус, косинус), в векторном - базисным векторам

Тот же принцип.
Вектор в евклидовом пространстве можно разложить на вектора базиса.
Функции тоже можно рассматривать как пространство функций и разложение Фурье - разложение по векторам базиса пространства функций.

Ну, так, грубо говоря :)