как рассчитать, сколько окружностей поместится в большой окружности? Дано: провод UTP 6e - 6мм, труба - 120 мм.

Теоретически для "n" слоев кругов расположенных центрально-симметрично, число кругов будет
a(n)= 3*n^2- 3*n+1
1, 7, 19, 37, 61, 91, 127, 169, 217, 271, 331, 397, 469, 547, 631, 721, 817, 919, 1027, 1141, 1261, 1387, 1519, 1657, 1801, 1951, 2107, 2269, 2437, 2611, 2791, 2977, 3169, 3367, 3571, 3781, 3997, 4219, 4447, 4681, 4921, 5167, 5419, 5677, 5941, 6211, 6487...

третий столбик= наружный диаметр аккуратно уложенного пучка
четвертый столбик= число жил в пучке
1 _ _ 1 _ _ 6 _ _ 1
2 _ _ 3 _ _ 18 _ _ 7
3 _ _ 5 _ _ 30 _ _ 19
4 _ _ 7 _ _ 42 _ _ 37
5 _ _ 9 _ _ 54 _ _ 61
6 _ _ 11 _ _ 66 _ _ 91
7 _ _ 13 _ _ 78 _ _ 127
8 _ _ 15 _ _ 90 _ _ 169
9 _ _ 17 _ _ 102 _ _ 217
10 _ _ 19 _ _ 114 _ _ 271

Для Вашего случая. получается 271 аккуратно уложенных круглых жил с диаметром 6 мм каждая, будут иметь наружный диаметр 114 мм. Если провода складывать безпорядочно, то естественно намного меньше.

из опыта- 100 штук должен протащить запросто.

Доказано … наиплотнейшая упаковка – коэффициент 0.9069.
Для объема 0,7797
Количество – оценка n= k*(D/d)^2

http://pictoris.ru/53.html
Теория, а практика … там меньше, сколько протащишь.
( может в оболочке, мож с маслом .)

Используйте UTP-5 25х2х24AWG с последующей расшивкой в шкафу и расчеты станут легче.
Тащить такой жгут даже через один пролет расточительное занятие.