Обязан ли я возвращать деньги бывшему работодателю, если, по его словам, "по ошибке мне выплатили больше, чем положено"?

Нужно обратить внимание вот на что. С того момента, как вы были уволены, любые отношения с вами фирма должна вести только в письменном виде за подписью руководителя или его заместителя, а документ должен иметь ещё и печать. То есть только официально. Любые звонки какой-то там "службы безопасности" - это криминал.
КЗоТ не предусматривает возможность работодателю требовать какого-либо возврата выплаченных ранее сумм. Не предусмотрено, и все тут, и не важно как там работают программы и еще кто-то.
В теории, работник должен возмещать причиненный работодателю ущерб, причем возможны ситуации, когда работодатель узнал об ущербе уже только после увольнения работника. Но в этом случае, тем более, любые требования только письменно, за подписью руководителя и с печатью.
Зарплата, выплаченная работнику, и ущерб, причиненный действиями работника на работе - не одно и тоже. Судя по вашему вопросу, речь идет о зарплате, якобы, не правильно начисленной, то есть речь о приченном ущербе вашими действиями точно не идет. Если, конечно, в ваши обязанности не входило самому себе начислять зарплату, и правильность работы той самой программы, которая, якобы, совершила ошибку, тоже не ваша обязанность.
Можете смело писать в прокуратуру о вымогательстве отдельных работников фирмы под надуманным предлогом.

Да, конечно! В обязательном порядке!
Могут подать в суд на присвоение чужих средств...

Возвращать не обязан. Но они могут подать на тебя исковое заявление в суд.

Ничего возвращать ты не обязан.

Это называется кражей.

Не обязан, да ещё и бывшему, если хотят пускай судятся.

нет, их ошибка - их проблемы, ничего не докажут

нет