Что лучше купить для любительской съемки?

видеокамеру

Если нужен зум, то и экшн-камера, и смартфон сразу отпадают.

Остаётся единствнный вариант...

Видеокамеру.

ты сам и ответил - в экшен камерах и смартфонах нет зума, по крайней мере оптического. Так что остается видеокамера.

Видеокамеру. Например Панасоник HC-V760.

Совместить фотографию и видео достаточно сложно, фотокамеры, умеющие хорошо снимать видео требуют квалификации. Поэтому, советую начать с Sony RX100 как фотокамеры. У нее хорошее видео, лучше чем у рассматриваемых видеокамер, но работать с ней сложнее. Пробуйте ее освоить, получится - хорошо, нет - берите видеокамеру, потому что если с Рыксой в видео не справились, видео на фотокамерах ни на одной не выйдет.

Если вам нужен зум, то экшн камера и смартфон пролетают мимо...

Берите Panasonic HC-V760

Если без зума никак, то видеокамеру. Если фото тоже надо - ультразум

Зеркалку.

Panasonic HDC-TM60 и не делаем мозг....

Для любительской? Если есть к этому большой интерес, то рекомендую начать с чего-то вроде Panasonic FZ200 - камера не новая, на авито можно найти, зум мощный, светосила, и функций много, вплоть до полностью ручных настроек iris/shutter/iso/ev/af/mf. Для обучения самое то. А так любую камеру видео с FullHD и тремя матрицами можно брать - именно видео если. Для хорошего фото - первый, что озвучил. Если денег 40+ тысяч, то ищите на авито Panasonic FZ1000, либо Sony RX10 - там фото еще лучше, чем на FZ200, матрица больше. Ну вот как-то так. А вот еще интересный вариант, если найдете - ну чисто по приколу, там правда ручных настроек мало, но все же: Nikon 1 V1/V2 или даже J-серия (без видоискателя) с объективом 10-100/4.5-5.6 VR PD-Zoom, в свое время юзал, очень приятно как видеокамера с хорошей картинкой вполне и очень приятным автофокусом. Один только минус - объектив темноват (по светосиле), а так крайне приятный моторный зум, плавный и мягкий, с хорошим оптическим стабилизатором.

Мыльницу

Мыльницы;
Беззеркальные со съемной оптикой;
Зеркальные.

Из зеркалок лучше обратить внимание на фирму Canon, у неё камеры лучше снимают видео чем другие фирмы, в частности хорошие камеры (Canon EOS 60D, ну и Canon EOS 5D начиная с MkII и до MkIV) + любой зум объектив, для 60D есть замечательный универсальный объектив 18-200. Из видео камер, по качеству лидирует Sony, обрати внимание на такую камеру как Sony PXW-FS7, по объективам точно не скажу, но примерно лучше брать 24-70 мм f/2.8. Из экше камер лучше GoPro. По цене примерно, самые дорогие камеры, потом зеркалки и замыкают список экшен камеры. Видео камеры снимают очень хорошо и плюс дают возможность корректировать промахи при монтаже, зерклки снимают не плохо, но на монтаже исправит сложнее, а то и вообще не возможно, поэтому нужно при съёмке стараться не допускать ошибок по экспозиции и цветному балансу и т. д. и т. п. А экшен камеры делают все настройки за Вас, по сему Вам остаётся только в нужный момент начать запись и остановить её, но качество у них уступает и видеокамерам и зеркалкам.