Почему в геоцентрической системе мира орбиты планет изображены в виде окружностей? Орбиты бы выглядели совершенно иными.

Действительно, во времена Птоломея люди уже знали, что орбиты планет не окружности, а очень сложные. Мало того, тогда уже была известна геоцентрическая система Мира Аристотеля, где орбиты планет были действительно окружностями.
Гениальность Птоломея состояла в том, что за много столетий до Фурье, он догадался, как можно аппроксимировать траектории планет рядами окружностей.
В его системе по окружности вокруг Земли вращались не сами планеты, а центры других окружностей. По этим другим окружностям вращались центры следующих окружностей и т. д. пока в конце-концов на одной из окружностей располагалась планета.
Число окружностей в таком ряду был разным для разных планет. У Солнца (а Солнце считалась планетой) была всего одна окружность. У большинства планет в эпоху Птоломея было по 2-3 окружности. Это позволяло с высокой степенью точности апроксимировать реальное движение планеты на небе и предсказать ее траекторию в будущем на несколько лет вперед.
Но в течении столетий, по мере того, как обнаруживалось все большее и большее расхождение реальных траекторий планет и расчетов, приходилось увеличивать число окружностей в ряду. Каждое столетие астрономам приходилось вводить все новые и новые корректирующие окружности для многих планет. Во времена Коперника у Меркурия была уже система с несколькими десятками окружностей и расчеты стали крайне трудоемкими.
Но и это не спасало. Было ощущение какого-то тупика.
Частично это было связано с тем, что не была еще создана математическая теория разложения в ряды Фурье. Дело в том, что бесконечный набор таких окружностей на самом деле не является точно ортогональным, хотя и близок к нему. Поэтому такое разложение слегка не корректно с математической точки зрения.
После появления работ Коперника и Кеплера всё сразу очень резко упростилось.
Итак, в геоцентрической системе Мира сложные орбиты планет изображались окружностями потому, что системой окружностей они апроксимировались.

и какими же?

Для упрощения и наглядности. По Птолемеевым таблицам движения планет на небе - петлеообразные.

Так проще

потому что они изображены в 2D изображении ))))