Чем обусловлена форма музыкальных инструментов?

Частично расчетом принципа, частично - эстетическими нормами, а частично - традицией.

Инструменты не квадратные потому, что звуковая волна распространяется вокруг источника во всех направлениях, и больше склонна к сферической форме. Кроме того, она умеет отражаться. Корпус, например, домры имеет вид полусферы, и звуковая волна, создаваемая вибрацией передней деки, отразившись от такого корпуса, ведет себя как световой луч, фокусируемый отражателем фонаря - она собирается в фокус. А точка фокуса расположена у домры точно в середине резонаторного отверстия в деке, и благодаря этому, ВСЯ волна, побывавшая внутри корпуса, благополучно "протискивается" через это отверстие. По пути она складывается с волной, излучаемой струнами, и в результате звучание домры почти удваивает мощность и обогащается кучей обертонов. Как говорят музыканты, "облагораживается".
Если бы корпус домры был квадратным, волна не фокусировалась бы, а отражалась в виде плоского фронта. А поскольку грани такого корпуса были бы параллельны, то звук внутри него просто зацикливался бы и не выходил наружу. Инструмент стал бы "глухим" и очень тихим. Кроме того, он резко резонировал бы только на одну ноту, которая "торчала" бы среди прочих нот, как гвоздь. Такие свойства больше уместны какому-нибудь сигнальному устройству вроде пожарной сигнализации - чем музыкальному инструменту.

По большей частью явлениями резонанса корпуса на звуковых частотах, делающих корпус эффективным излучателем, которые в свою очередь зависят от формы, размера, материала.

__ Любой музыкальный инструмент является генератором гармонических колебаний с разным окрасом основных частот (нот) обертонами, то есть гармониками других порядков. Именно это накладывает требования на форму, материалы, размеры некоторых элементов инструмента.
__ Всё это описано в интернете. Если ты хочешь, то можешь использовать эти знания.