Кто помнит геометрию? Как отделить sin(I) от cos(I)?

т. е уравнение
m*sin(I)+ n* cos(I)-X = 0
Вырази sin через cos и возведи в квадрат
Квадратное уравнение относительно Cos(I) решишь

если a и b - известны, то cos a и sin b - просто числа.

значит у тебя есть выражение вида f*sin I + g*cos I

Вспоминаем, что любое выражение вида A*sin x + B*cos х - это снова синусоида, только растянутая/сжатая по вертикали и сдвинутая по горизонтали.

умножим все и поделим на корень из (f*f+g*g):
sqrt(f*f+g*g)*((f/sqrt(f*f+g*g))*sin I + ( (g/sqrt(f*f+g*g))*cos I)

Зачем такие махинации? А вот зачем:
C=f/sqrt(f*f+g*g)) и S=g/sqrt(f*f+g*g)) - это косинус и синус некоторого угла фи, сумма их квадратов - единица. Какого угла - мы тоже знаем, это фи=arccos(f/sqrt(f*f+g*g))

Значит у нас выражение превращается в:
cos(a)*sin(b)*sin(I)+cos(a)*cos(I) = f*sin I + g*cos I = sqrt(f*f+g*g)*(cos(фи) *sin(I)+sin(фи) *cos(I))=sqrt(f*f+g*g) * sin(фи+I)

дальше - сам

У тебя есть уравнение
x = cos(a)*sin(b)*sin(I) + cos(a)*cos(I)
Переводишь все в половинные аргументы
cos(a)*sin(b)*2sin(I/2)cos(I/2) + cos(a)*[cos^2(I/2) - sin^2(I/2)] - x*[cos^2(I/2) + sin^2(I/2)] = 0
sin^2(I/2)*[ -cos(a) - x] + sin(I/2)cos(I/2)*[2cos(a)*sin(b)] + cos^2(I/2)*[cos(a) - x] = 0
Делишь все на cos^2(I/2)
tg^2(I/2)*[ -cos(a) - x] + tg(I/2)*[2cos(a)*sin(b)] + [cos(a) - x] = 0
Квадратное уравнение относительно tg(I/2)
Решаешь!

sin^2(I)+cos^2(I)=1
sin^2(I)=1-cos^2(I)
Подставляешь это в уравнение и решаешь. Чтобы не было квадратных корней, то можно исходное уравнение возвести в степень 2.
cos(a), sin(b) - это просто константы, я так понимаю.
Если х=0, то можно и разделить левую и правую части уравнения на cos(I). Получится
0=cos(a)*sin(b)*sin(I)/cos(I)+cos(a)
0=cos(a)*sin(b)*tg(I)+cos(a)
0=sin(b)*tg(I)+1