Все звезды, свет от которых мы не видим, когда смотрим на безоблачное ночное небо удаляются от нас со скоростью света?

Парадокс Ольберса тут ни при чем.
Каждая звезда каждую секунду излучает не бесконечное число фотонов, а КОНЕЧНОЕ.
Поэтому, чем дальше расстояние от звезды, тем меньше плотность фотонов, попадающих на сетчатку Вашего глаза (или на фотопластинку фотоаппарата) каждую секунду.
Уменьшение плотности фотонов идет по закону обратно пропорционально расстоянию до звезды. То есть, если расстояние до звезды в 10 раз больше, то фотонов в сетчатку глаза попадет уже в 100 раз меньше.
Поэтому от очень далеких звезд фотоны, которые преодолевают расстояние до Земли, могут проходить, вообще, мимо Земли, так как их плотность становится очень мала.
Это легко проверяется с помощью фотографирования ночного неба фотоаппаратом с выдержкой на несколько часов, который устанавливается на специальный штатив с поворотным часовым механизмом. Если экспонировать 1 час, то на фотопластинке Вы увидите гораздо больше звезд, чем видите глазом. А при экспонировании 2 часа звезд будет еще больше, чем при экспонировании 1 час.
Если бы у нас ночь постоянно не сменялась днём, то такой фотоаппарат можно было бы оставить с временем экспонирования на сотни часов. В этом случае вся фотопластинка стала бы белой от света звезд.

Посмотри в Википедии "парадокс Ольберса".
Вкратце:
а) в галактиках полным полно пыли. Из-за этого мы даже центр собственной галактики не видим
б) Вселенная конечна

Нет, просто есть настолько удаленные звезды, что свет от них до сих пор не дошел до земли, за всю историю существования человечества. Это называется парадокс Ольберса.
Кстати, в нашей галактике звезд слишком мало, чтобы их света хватило...