Можно ли рассчитать рентабельность собственного капитала, если за рассматриваемый период не было прибыли? был убыток

если период отчётный, а не промежуточный то ваше дело не рентабельно. Рентабельность- это окупаемость вложенных средств и если вы вышли в минус то естественно ваше дело нерентабельно