можно ли заливать трансформаторное масло в систему отопления дома

ТЕОРЕТИЧЕСКИ - можно.
Но ненужно.
Тем более, что у вас не котёл, а ТЕРМОБЛОК. А в чём отличие котла от термоблока? Да, в системе передачи тепла от пламени до теплоносителя.
В термоблоках стоит теплообменник, аналогичный газовой колонке в коммуналке. И при применении жидкостей более вязких чем вода и с меньшими теплоёмкостями ВОЗМОЖНЫ ПРОГАРЫ в теплообменнике. Да и вязкость трансформаторного масла аукнется и на всей системе. Нет методик расчёта для масла индивидуальных систем отопления. Не сможете подобрать супер насос для перекачки этого, возможно, "халявного" теплоносителя.
ДАЖЕ АНТИФРИЗ для термоблока НЕ РЕКОМЕНДУЕТСЯ!! ! ДАЖЕ!! !
Но я бы всё таки залил бы разбавленный антифриз и забыл лет на 10.

Значит гдето поблизости трансформатор стоит, да? У масла вязкость хуже чем у воды. Залить его конечно можно, система будет работать, вопрос лишь как. Масло ведь может нагрется за 100 градусов, изза плохой вязкости может получится перегрев в областях ближних к котлу. Такая сситема скорее выйдет из строя.
НО, использовать масло можно, только нужно систему заранее под него готовить, нужны диаметры труб потолще, изгибы поплавнее и т. д. , если это заранее предусмотреть, то на масле будет нормально работать, да и на воде тоже. А так, все енти котлы на расчитаны на тосолы и воду.

от масла запах. залеи тосол

Насос в котле расчитан на воду...

Ни в коем случае. Заработаете такой гемор. Трансформаторное масло разъедает прокладки (резиновые). Через какое то время произойдет потоп из всех соединений, где есть резиновые уплотнители.

насос котла навернеться, в паспортах большинства насосов есть примечание про масло

насчет масла не знаю у нас тосол залит.

спасибо за советы в таком случае еще вопрос как очистить систему от отработки