Есть ли программа, которая переводит фильм в мультфильм (обработка видео, эффекты)

Смотря что Вы имеете в виду под определением мультфильм. Вообще то обычное кино и мультфильм имеют много отличий. Какие эффекты Вас интересуют? Установите редактор видео и попробуйте разные эффекты-вдруг это именно то!

в любом случае это не анимация, а стилизация через фильтр

Невозможно!

Уйти жить в сказку.
Нет.
Никак.
Мультфильмы рисуют целой командой и подолгу

есть такие фильтры в видео редакторах, например в корел видео студио есть три фильтра иммитирующих рисунок. и в пинакле кажется тоже есть, а с другими я дела не имела, не знаю.

плагин Сапфир, например.. есть как карандашный рисунок или красками,

Мультфильм отличается от фильма тем, что его рисуют, а не снимают (исключение кукольные мультфильмы) . А из видео вы не сделаете мультфильм. Самый простой способ - разместить камеру/фотоаппарат над столом неподвижно, сделать стабильное постоянное не изменяющееся освещение, заблокировать настройки камеры (фокус, диафрагму, выдержку, баланс белого) , расположить под камерой лист бумаги, как фон, зафиксировать его, и на нём двигать вырезанные и склеенные подвижные плоские фигурки. Главное не сдвинуть не ту фигуру случайно, и не нарушать постоянную яркость, не создавать теней и т. д. . И то, не у всех получится. А вы хотите в программе. Есть программы 3D моделирования, где создают персонажей, костюмы, окружающую обстановку. Но вам это будет не под силу. Можете попробовать вышеописанный 1-ый способ.