Вокруг некоторой планеты по круговой орбите радиуса R летает спутник

со скоростью v1=20 км/с. Если бы масса планеты была в четыре раза меньше, то тот же спутник двигался бы по орбите того же радиуса, но с какой скоростью?

Если коротко: 10 м/с потому, что a=v^2/R.

А теперь более подробно. Скорость спутника v на круговой орбите жестко связано с его центростремительным ускорением a по формуле

a = v^2 / R,

где R - радиус орбиты. Центростремительное ускорение создается гравитационной силой F, с которой планета притягивает спутник:

F = ma,

где m - масса спутника. Отсюда

F = mv^2 / R,

или

v = sqrt(FR/m),

где sqrt обозначает квадратный корень. Далее, сила F равна gmM/R^2, где М - масса планеты. Если М уменьшится в 4 раза, то и F тоже уменьшится в 4 раза. При этом, как видно из формулы для v, скорость уменьшится в ДВА раза (из-за квадратного корня) . Вот так из 20 м/с и получается 10 м/с.

Он бы не двигался, а улетел бы в космос, т. к. сила притяжения была бы меньше. А! значит ему надо двигаться медленнее! Но на сколько, не знаю.
По идее в 4 раза медленнее, но не факт.