При ОЗЗ активная составляющая тока нулевой последовательности замкнется по цепи: фаза-место ОЗЗ-оболочка кабеля (земля) -резистор- - нейтраль трансформатора- обмотка трансформатора - фаза. Ток резистора определяется I (R) = U /(1,73* R) (1), при условии, что напряжение фазы неизменно. Через место ОЗЗ протекает максимальное значение I(c)- емкостная составляющая тока ОЗЗ, равная 150А. Ни о какой компенсации активного и емкостного тока быть не может (они под углом 90 градусов. Задан результирующий ток (гипотенуза) . По двум составляющим находим активный ток равный 316,2 А, который больше емкостного, что позволяет отстроить защиту от последнего. Сопротивление резистора R =27 Ом находим по формуле (1).Мощность выделяемая на R равна P =U^2 /(3R). Защита от ОЗЗ должна быть выполнена на отключение без выдержки времени, иначе резистор полыхнет как спичка при такой мощности. Выбор трансформатора по мощности. Как бы не критично. Трансформатор работает с замыканием кратковременно. Однако в формуле (1) допущено, что напряжения неизменно. При не достаточной мощности последовательно с резистором включена обмотка трансформатора, на которой произойдет падение напряжения и ток резистора будет меньше. ПО Uk трансформатора или замером сопротивления определяют величину падения напряжения на трансе. При падении напряжения больше нормы (5 или 10%) необходимо подбирать транс с большей мощностью или большим Uk. Все из теории. Нет места для объяснения. В вашем случае параллельно с резистором необходимо включить компенсационную катушку индуктивности. Эксплуатация сети с такими токами ОЗЗ не допустима.