как увеличить мощность трансформатора

Предельная мощность трансформатора определяется исключительно его сердечником и частотой. И ничем больше.
Поэтому для данного трансформатор мощность можно увеличить, перейдя с 50 герц на какую-то более высокую частоту. Но не сильно выше, потому что начиная с сотен герц станут заметны потери на вихревые токи в сердечнике.
Ну а поскольку в реальной жизни рассчитывать на другую частоту нельзя, то придётся перенабрать сердечник, чтобы увеличить его объём (и, соответственно, заново намотать трансформатор...) .

+++++++++++++++
Чисто в порядке ликбеза. Трансформатор занимается тем, что накапливает энергию в сердечнике и потом отдаёт эту энергию во вторичную обмотку. Значит, мощность его определяется тем, сколько энергии этот сердечник может накопить за один раз, и как часто эти разы случаются.
Плотность энергии магнитного поля - это ВН/2 (половина произведения индукции на напряжённость поля) . Пока трансформатор не в насыщении, напряжённость и индукция связаны соотношением B = &mu'μ_0H. Максимальная напряжённость, при которой это соотношение ещё сохраняется, - напряжённость насыщения (Hs). Так что максимальная плотность энергии, которую может выдерживать трансформатор, - это &mu'μ_0H²/2. Максимальная энергия - это плотность умножить на объём сердечника. Ну а максимальная мощность - это максимальная эенргия умножить на двойную частоту (двойную - потому что максимум поля там ДВАЖДЫ за период) .
Вот и всё, диаметр провода тут никаким боком. Диаметр провода влияет лишь на пожарную безопасность конструкции...