Как рассчитать правильное соотношение объектов Солнечной системы?

Не получится. Реальное соотношение слишком большое. оно не поместится ни на какие иллюстрации.
Вот к примеру соотношение Земли, Луны и радиуса орбиты Луны. Как видим оно очень большое. А если поместить еще тут и Солнце то Луну и подавно не увидишь.

при масштабе в 1мм 1 астрономическая единица Солнце будет иметь размер 0,01мм. радиусы орбит планет в мм будут: Меркурий - 0,39, Венера - 0,72, Земля - 1,00, Марс - 1,52, пояс астероидов - 2,2-3,6, Юпитер - 5,2, Сатурн - 9,54, Нептун 30,06. т. е. при выбранном масштабе на указанную иллюстрацию поместятся все планеты, которые в данном масштабе будут очень малыми точками. чтобы поместились и планеты карлики Плутон (39,50) и Эрида (67,7) надо уменьшить масштаб еще в 2раза, а чтобы поместилась вся Солнечная система надо уменьшить масштаб в 1000 раз.

Если у тебя есть в распоряжении лист бумаги размером со стадион - то луна будет 1мм - песчинка.

Если Солнце представить размером с входную дверь, то Юпитер рядом с ним будет с баскетбольный мяч, а Земля с 50 копеек. Уменьши Солнце до размера квадрата размером 5на5 тетрадных клеток. Юпитер тогда будет примерно полтора мм в диаметре, а Земля с Луной ну наверно несколько микрон уже будет. Сможешь ты нарисовать такой объект карандашом, пусть даже и предельно остро заточенным?