Как выглядит ваш алгоритм решения задачи, если с первого раза не удалось?

Если есть возможность, то отложить: решение может "созреть" (вспомните, например, открытие Периодической таблицы) .
Если такой возможности нет, то стиснуть зубы и до упора.. . При этом все предыдущие варианты решения спрятать подальше, чтобы не мешали родиться новому.

Критерий один - у всего есть относительно простое решение.
Чем проще, тем надёжнее и правильнее.
Если решение есть, но оно сложное и витиеватое - это неправильное решение.
Если есть несколько решений и все они одинаково приемлемы - значит ни одно из них не является оптимальным-правильным

Есть классы задач, решаемые нехитрым алгоритмом. А есть и такие, в которых стандартный алгоритм нельзя применить.
Часто необходимо дать оценку допустимым решениям (даже весьма грубую) : так вы сужаете себе работу.
Попробуйте подойти к рассмотрению задачи/ проблемы с других позиций. Иногда нетривиальное обозначение в начале может весьма быстро привести к решению задачи (например за Х обозначить не то, что требуется найти, а другую величину) .

Ну и не следует ломать голову, если не получается. Возьмите паузу, скушайте твикс (шутка) . Благо сейчас есть интернет. Подчерпните дополнительную информацию.

Здесь как с уравнениями. Небольшие классы можно решить аналитически (по алгоритму) , а большинство требует других подходов, зачастую приближенных.

Решение задачи - творческий процесс, умственная работа.
Если долго мучится, что-нибудь получится

1 способ: походить, покурить, отвлечься и снова за работу
2 способ: воспользоваться опытом других
3 способ: написать сюда )))))