Какую витую пару использовать FTP или UTP ?

UTP (U/UTP) – витая пара неэкранированная (без защиты).
FTP (F/UTP) – витая пара фольгированная – имеет одну общую оболочку из фольги.

Очевидно, что FTP лучше

без разницы какую ты будешь использовать.
оба кабеля совершенно одинаковые, один только с фольгой для экрана, другой без.

Кабель придуман для передачи данных между сетевыми картами.
Ты же хочешь его использовать для передачи сигнала антенны.

Для антенны нужно использовать коаксиальный кабель.
В противном случае танцы с бубном тебе обеспечены.

Для примера.
чел купил регистратор и 4 камеры. По характеристикам подключать надо коаксиалом.
Он подключил по UTP потому что она была.
После того как всё собрал оказалось что ни одна камера не работает так как надо.
А всё банально просто. UTP предназначен не для этого.

После танцев с бубном камеры заработали.
Но вот в чём парадокс.
Ближайшие камеры он подключил через экранированную UTP
А дальние через обычную.
Так вот дальние показывают визуально лучше. Не смотря на то что расстояние в три раза больше и кабель не экранированный.
А может и благодаря тому что не экранированный.

Так что я не уверен, но твоя затея может закончится банальной потерей денег.

Подумай в сторону ИСПОЛЬЗОВАНИЯ КОАКСИАЛЬНОГО КАБЕЛЯ

если стоимость не важна, то лучше SFTP

FTP - (англ. File Transfer Protocol) — протокол передачи файлов по сети.
UTP - Вита́я па́ра — вид кабеля связи. Представляет собой одну или несколько пар изолированных проводников, скрученных между собой (с небольшим числом витков на единицу длины), покрытых пластиковой оболочкой.
Свивание проводников производится с целью повышения степени связи между собой проводников одной пары (электромагнитные помехи одинаково влияют на оба провода пары) и последующего уменьшения электромагнитных помех от внешних источников, а также взаимных наводок при передаче дифференциальных сигналов. Для снижения связи отдельных пар кабеля (периодического сближения проводников различных пар) в кабелях UTP категории 5 и выше провода пары свиваются с различным шагом. Витая пара — один из компонентов современных структурированных кабельных систем. Используется в телекоммуникациях и в компьютерных сетях в качестве физической среды передачи сигнала во многих технологиях, таких как Ethernet, Arcnet, Token ring, USB. В настоящее время, благодаря своей дешевизне и лёгкости монтажа, является самым распространённым решением для построения проводных (кабельных) локальных сетей.
Кабель подключается к сетевым устройствам при помощи разъёма 8P8C (который ошибочно называют RJ45).

с одной стороны заземляют...
"разница потенциалов земли в удаленных друг от друга точках может достигать несколько единиц и даже десятков вольт. Поэтому, чтобы предотвратить протекание по экрану тока, выравнивающего эти потенциалы, экран кабеля нужно заземлять только в одной точке (безразлично, в какой). Это также предотвратит появление замкнутого контура большой площади в цепи заземления, в котором за счет электромагнитной индукции может наводится ток большой величины при ударах молнии или коммутации мощных нагрузок. Этот ток через взаимную индуктивность наводит на центральной паре проводов э. д. с., которая может вывести из строя микросхемы драйверов порта.
Причем использовать настоящую землю, а не зануление. Когда любой сосед может вам устроить фейерверк. Или когда не очень исправная стиральная машина будет гнать переменный ток в земляной провод и на все ваши кабели

FTP будет лучше, только если экран на обоих концах кабеля будет подсоединен к заземлению.

Иначе экран либо не будет работать, либо будет работать антенной и собирать все окрестные помехи...
Лучше присмотритесь, чтобы были цельные медные провода - сейчас китайцы любят штамповать алюминий с напылением меди!