задолжность при увольнении после отпуска авансом

Увы, все, что делать было не нужно, опасно и нежелательно, Ваш муж уже сделал. И никакие "он не хотел", "его заставили" и "мы не думали" сделанного не отменят и законы не перепишут.
1. Если муж писал заявление на отпуск, надо полагать, что отпуск был не по графику. Поскольку по графику никаких заявлений писать не надо: наоборот, это работодатель о таком отпуске обязан предупредить заранее. Уходить в отпуск "не в графике" можно было отказаться, в особенности, если собирался увольняться.
2. Не надо было соглашаться писать заявление позже. Никакая загруженность отдела кадров (да хоть его полное отсутствие) не должно мешать работнику осуществить свое право на увольнение. При нежелании спорить можно было развернуться, написать заявление и отправиться на почту - отправлять письмом с описью вложений и уведомлением о вручении. В конце концов, заявление можно было написать уже в отпуске, не дожидаясь его окончания.

Теперь о законах и перспективах.
1. Отпуск работодатель обязан предоставить ежегодно, что он, собственно, и делает. Догадаться, что человек собирается увольняться (если работник его заранее о том не уведомлял) и отпуск ему не нуж\ен, работодатель не может - поэтому и предоставляет отпуск, как положено, весь. Тут работодателя винить не в чем.
2. Предоставление отпуска без содержания больше, чем на 14 календарных дней, смещает дату начала рабочего года, которая учитывается при расчете полагающихся дней отпуска. У Вашего мужа первый рабочий год был с 23 ноября 2014 года по 22 ноября 2015 года, а следующий должен был быть с 23 ноября 2015-ого по 22 ноября 2016-ого. Но он брал отпуск без содержания и явно больше 14 дней, следовательно, дата начала рабочего года сдвинулась (кстати, по Вашим данным я никак в полгода отпуска не укладываюсь - что с датами?).
В обычное время это никак не повредило бы, он увольняется и работодатель обязан определить, за сколько дей отпуска ему рассчитывать компенсацию, и здесь приходится учитывать все, в том числе и длительный отпуск без содержания.
3. При таком раскладе отпуск действительно взят авансом. Отпускные, выплаченные авансом - за неотработанное время - работодатель имеет полное право удерживать. То, что отпуск "не требовали", тут значение не имеет - пошел же, верно? И отпускные были получены.
ОБРАТИТЕ ВНИМАНИЕ: удерживать "за один раз" работодатель имеет право не больше 20 % полагающихся работнику выплат. Такое удержание законно и согласия от работника не требует.
Если же сумма больше - на удержание ее целиком требуется согласие работника. Нет согласия: удерживают ежемесячно не больше 20 %.
Если работник увольняется и других выплат уже не будет, то для взыскания остатка работодатель должен обратиться в суд.
Полагаю, что расчетные, которые Вашему мужу положены при увольнении, не составляют 99 тыс. руб. - только при такой сумме можно удержать все 19,8 тыс. руб. долга за отпуск авансом разом, без согласия Вашего супруга.

Что делать?
1. Не соглашаться на выплату долга. Ни в коем случае.
2. Запросить письменно расчет отпускных вообще и долга в частности. Работодатель обязан предоставлять работнику, как минимум, расчетные листки, откуда ясно видно, что и за что начисляют и что и за что удерживают.
3. На уговоры все таки вернуть деньги - посылать в суд.
На угрозы не отдать трудовую или задержать расчетные (зарплату) - напомнить, что все это работодатель в любом случае обязан выдать в день увольнения. Иначе - встречаемся в суде.
4. Быть готовым действительно отстаивать свои права в суде.

Может ли работодатель взыскать эту сумму через суд? К сожалению, может.
Суды по разному рассматривают эти дела: могут отказать работодателю, но могут и согласится - вероятность примерно половина на половину.

сумму отпускных, предоставленных авансом, работодатель вправе удержать при расчете увольнения, если сумма, начисленная работнику при увольнении недостаточна, работодателю не повезло