Какой программой я могу улучшить фотографию (убрав прозрачные квадратики), возникшие после фотомонтажа в исходном фото?

В той же, в какой Вы или Вам наделали "прозрачных квадратиков".
И вряд ли онлайновой.
Не видя получившийся шедевр, подозреваю, что настирали попросту дырок, ибо так чаще всего выглядит прозрачность.
Фотошоп или GIMP в помощь. --http://www.gimp.org/

а вот уроки - Вам без них никак
http://balbesof.net/info/photoshop_map.html
http://www.photoshop-master.ru/lessons.php
http://egraphic.ru/photoshop-tutorials/