почему столица Византии всегда отсавалась на месте, а столица Халифата не раз переезжала?

Ну не всегда - с 1204 по 1261 год она находилась номинально в Трапезунде (сейчас Трабзон) .
А в Константинополе - в это время господствовали захватчики - Латинская империя.