Подскажите, какое сечение трубы нужно для котла системы "собачий скелет" (фото внутри) , если труба квадратного сечения?

Читайте СНиП 2.04.05-91 ОТОПЛЕНИЕ, ВЕНТИЛЯЦИЯ И КОНДИЦИОНИРОВАНИЕ
гласит:
Пункт 3.71. Сечение дымовых труб (дымовых каналов) в зависимости от тепловой мощности печи следует принимать, мм, не менее:
140х140 —при тепловой мощности печи до 3,5 кВт
140х200 — ри тепловой мощности печи от 3,5 " 5,2 "
140х270 — ри тепловой мощности печи 5,2 " 7 "
Заужать каналы нельзя

Какой объем обогрева, необходимая температура, высота подъема, скорость теплоносителя, кол-во и марка радиаторов и т. д. Нужно считать. Обращайся к специалистам.

Вы бы хоть написали, что речь идет о дымовой трубе.
Изготовить саостоятельно и котёл и коаксиальную дымовую трубу к нему весьма похвально, но выбор квадратного сечения, это муветон. Турбулентность в трубе будет такая, что намучаетесь у кирпичных дымоходов это вынужденно и именно в них воникают проблемы с тягой.
Незабудте предусмотреть внизу трубы отстойник и сливной кран для конденсата.
Проблема с подбором сечения дымохода обычно решается установкой шибера в удобном месте.

То что нарисовано, сиречь сам теплообменник, к трубе имеет весьма опосредованное отношение. Поясняю, если Вы эту хрень будете греть электричеством, труба вообще не нужна. И КПД будет приближаться к 100%...

Котел состоит из нагревательной системы (как я понимаю, в Вашем случае, твердотопливной) и теплообменника, т. е. приспособления назначение которого перевод тепла от сгораемого древа, в тепло нагретой Н2О. .

Вот тут, вопросы КПД, весьма зависят от конструкции печи, т. е. в самом общем виде это будет разница между к. калориями получаемыми от сжигания дров, и к. калориями вылетающими в трубу.

Подробности займут несколько больше символов чем позволяет майл. ру. Эдак раз тысяч в десять больше. .

Но, возвращаясь к Вашему варианту, могу сообщить, что 120х120 предпочтительнее при такой топке. Однако, 8 метров, подразумевают печь типа "буллерьян", "бреннеран" или того ж профессора нашего, Сергей свет Ефимовича Бутакова (царствие ему Небесное....) . Потому, как сильная тяга (а с такой трубой она весьма будет сильна).. . у Вас и дрова будут в трубу вылетать ))). А тут надо что бы потихоньку тлело! Но при этом, сгорало хорошо, всяко СО в дом не поступало. . Ну и т. д.

Короче, труба это где то 1/10 от общей системы печь/котел. Я не говорю уже о системе распределения тепла в помещении. Видах теплоносителя, системе трубопроводов отопления и пр.. .

В общем, обращайтесь, если нужда будет! )