как расчитывается ежегодный оплачиваемый отпуск, если в нём открывается декретный

У Вас просто останутся неиспользованные дни основного отпуска.
Расчет выплаты за основной отпуск осуществляется из количества предоставленных дней по средней заработной плате за год. Деньги за пропавшие дни зачтут в счет иных выплат.
Если Вы по договоренности с работодателем не воспользуетесь неиспользованными днями отпуска в течение следующего рабочего года, то вам при увольнении выплатят компенсацию за эти "пропавшие" дни опять же по средней заработной плате.