Старый собственник не хочет съезжать теперь уже с моей квартиры. Как быть?

А должник остался зарегистрирован по месту жительства в этой квартире? Если нет, то как выше советовали - но можно даже без участкового - вскрыть дверь и сменить замок. Проблема проживания должника будет решена.
Если он зарегистрирован в квартире, ничего не мешает поступить аналогично, но параллельно с этим необходимо будет подать иск о выселении и снятии с регучета на основании ст. 31 ч 4 ЖК и ст. 292 ГК РФ.
Рыба иска о выселении жены-мужа-бывших родственников вполне подойдет, если доработать ее под себя, главное, ищите рыбы с похожими основаниями, предусмотренными соответствующими статьями (потому что выселение может быть и по другим причинам: например, родителя, лишенного родительских прав. Или при использовании жилого помещения не по назначению. Это все не пойдет) .
Должник вам не член семьи, выселите без проблем.
В остальном Валера прав.
А свидетельства по Мск уже розовенькие, а все равно зеленка...