У меня три агавы, ограничивать их в объеме корневой системы я не пыталась, но они довольно компактные - занимают места не больше, чем любое другое среднее растение.
Предлагаю еще такой вариант: максимально улучшить освещение. По моим наблюдениям, американская агава реагирует на нехватку света тем, что отращивает более длинные и раскидистые листья, а за счет этого выглядит более крупной. Правда, "нехватка света" может быть даже на самом солнечном южном окне в осенне-зимний период, когда часто пасмурно и световой день короткий. Моя агава стала вот так тянуться именно зимой на южном окне. А летом развивалась нормально, особенно если на воздухе, а не в помещении.
Вообще, многое зависит от вида и сорта.
Агава королевы Виктории - небольшая и медленно растущая.
Агава нитеносная - тоже, далеко не гигант. На фото она на втором плане:
Агава американская.. . ну, конечно, нет смысла выращивать на подоконнике такое растение, которое, скажем, на Южном берегу Крыма в открытом грунте достигает метра или полутора в высоту и в диаметре. Но в цветочных магазинах иногда продается компактный вариегатный сорт этой агавы, который имеет вполне терпимые габариты. У меня как раз компактная, сейчас ращу оставшуюся от нее детку, а основное растение у меня украли, так вот оно было диаметром примерно сантиметров сорок - как обычный комнатный цветок: 
