Можно ли при измерении фазометром использовать в качестве шунта реактивное сопротивление?

Нет. Только активное. Реактивное (емкость или индуктивность) внесет погрешность в измерение.
Ну, или же придётся рассчитывать эквивалентную схему, включающую это реактивное сопротивление.