Я заплатил хакеру 800 р. за взлом страницы ВКонтакте но он меня обмонул - не взломал. Можно ли это считать мошенничеством

конечно можете.
Это как прийти в полицию и заявить- я заплатил Пупкину за то, что б он украл у Ножкина Ценный предмет, а Пупкин меня обманул.
Как думаете, что ждет вас.

Конечно мошенничество, но полиция этим не занимается

нифига себе Я максимум если захотел вернуть себе аккаунт заплатил бы не более 100 рублей.. Вообще то хакерство -это уголовно наказуемое дело ТАк что это вас еще могут привлечь к уголовной ответственности