Как вышки различают отдельные модемы? Частота же одна!?

Про LTE не скажу, а в GSM используется мультиплексирование, основанное на таймслотах. Для передачи данных каждому устройству выделяется только часть внутри некоторого временного промежутка, остальные части заняты другими устройствами.

Поскольку девайсы могут находиться на разных расстояниях от базовой станции, чтобы тайслоты чередовались, не налезая друг на друга и без пауз, требуется компенсация задержки, возникающей из-за конечной скорости распространения радиоволн. Результатом работы механизма компенсации является ограничение в максимум 35 км до базовой станции, далее GSM-связь не работает, хотя мощности может и хватать.

Большая часть пакета - это служебные данные, в которых устройства всё друг другу рассказывают про себя. Пользовательских данных там по минимуму, откуда и пошли всякие джамбо-фреймы...

Ты не поверишь ! Мы по IP в нужный модем входим ! :) А частоты тем не менее разные , если несколько модемов в одном направлении работает и на прием и на передачу тоже разные !

откройте для себя слово "протокол". потом почитайте RFC.

На ощупь...

Там далеко не одна частота, на самом деле.
Почитай про FDMA, TDMA, CDMA, и всё станет ясно.
Если кратко, то вышка принимает и передаёт в довольно широком диапазоне частот, разделённом на каналы, этак на несколько десятков, не помню точно, сколько их. Это FDMA — множественный доступ с разделением каналов по частоте.
Каждый из таких каналов может использоваться несколькими устройствами, просто они используют его "по очереди", каждому устройству отдаётся свой временной слот. Так реализуется TDMA — множественный доступ с разделением по времени.
Кроме того, вся эта свистопляска обильно приправлена CDMA (кодовым разделением) — разные устройства могут вещать одновременно, но каждое использует свою кодирующую последовательность. Приёмник же, используя этот код, может с помощью специального алгоритма выделять сигнал нужного устройства из общей "какофонии" шумоподобных сигналов.
Это очень приблизительное описание того, что происходит.
Хочешь подробнее — ищи полные описания стандартов мобильной связи.