Определение на плате контактов Rx, Tx, Gnd.

1) найти землю;
2) мультиметром найти питание (3,3 или 5), если оно нужно;
3) методом тыка найти RX и TX.

правильно говорят: методом научного тыка.
если rx tx местами поменяешь ничего страшного не произойдет.

методом тыка

Все ответы не верны. если на ТХ случайно подать 0 или заземлить то можно легко спалить линейный узел передатчика.

Алгоритм должен быть такой:
1. Определить GND или 0.Путем прозвонки кз на 0.
2. Определить RX. Для этого на каждый выход платы роутера подключать вход осцилографа. RX это вход и находится в непонятном состоянии (высокоимпедансном). То есть от человеческого прикосновения может переходить в любое состояние, либо на нем вообще может наводится синусойда.... в общем сразу поймешь....
3.TX это передатчик с уровнями стандарта RS-232 либо TTLcответственно осциллографом ты увидишь либо передачу (последовательность 0 и 1), либо 1( Для RS232 уровни -12В/+12В, для TTL от 0 до 4,5 вольта).
4. 3.3 Вольта ты сразу увидишь....

Кстати, замерив уровни ты поймеш какой преобразователь тебе надо. Если, там уровни TTL а ты подцепишь преобразователь USB-RS232. Ты можешь сжечь схему.... А если наоборот, то у тебя ничего работать не будет, т. к в RS232 напряжения выше, сигнал инвертирован относительно TTL

Напоминаю что для прошивки нужно подключить провода: GND-GND, RX на TX, TX на Rx.

Кстати, не понял вопроса с квадратиками. Поясни или пришли фотографию....