Я хочу найти направление в живописи, сама не знаю что! Направление в искусстве, математическое

Как называется направление, не знаю, но самый яркий пример - Эшер

Уникальное явление. Сейчас в Москве проходит выставка голландского графика Эшера, это то что вы ищете, математическое. рекомендую.