Какая формула нужна? и как вообще можно было бы решить?

:-))
Вот на Ответах попалась чудесная ссылка:

http://www.mogggiiien.narod.ru/Admin/Kal...

Там калькуляторы для решения.Графики тоже строят
Их свыше трёхсот.Расположены по алфавиту.
Пользуюсь второй год