Квадратура круга, почему древние этим так озадачивались?

Потому что мир для них еще был целочисленным или соотношением целых чисел

Звучит загадашно!

пытались изучать мир

Хотели оквадратить круг.

У них был другой тип мышления. Не только чистая абстракция, но еще и образное мышление. Образы, асбтракции и даже эстетические категории — всё сводилось в единую систему. "Идеальным инструментами" считались циркуль и неразмеченная линейка. а круг и квадрат — одни из идеальных фигур. Посмотрите на сечения колонны любого ордера — там вы найдете и круги и квадраты, в зависимости от элемента колонны. Т. е., это были, если коротко, "упражнения в красивостях", во-первых, и желание уловить тающуюся в круге "бесконечность", во-вторых. Ну и, в-третьих, задача-то, на самом деле, решалась с очень хорошой степенью точности (решить точно её, по понятным причинам, невозможно) при использовании невсиса. Но сради математиков сложилось, что невсис это некошерно и каждый уважающий себя геометр должен использовать только циркуль и только линейку. Поэтому сначала было три инструмента: "невсис" как способ построения, циркуль и линейка и при помощи них задача решалась с очень хорошим приближением и только потом возникла проблема решения задачи при использовании только циркуля, и только линейки. Самое интересное, что приближенных решений было найдено очень много, но еще со времен невсиса все хотели точного решения, пока не было доказано, что это невозможно. А в всё из-за любимого нам числа π, а, точнее, континуальной бесконечности окружности.