Как образуется ось звезды (или почему частицы облака начинают вращаться вокруг прямой, а не точки)?

Частицы облака вращаются вокруг центра масс - точки. А ось у звезды появляется, когда частицы слипаются в протозвезду и начинают вращаться как единое массивное целое - в твердом или даже газообразном диске места у центра уже заняты другими частицами, поближе к центру масс можно подобраться только сбоку, частицы первоначального диска соскальзывают вбок и образуют вращающийся шар..

Не просто начинают вращаться вокруг прямой, они начинают вращаться в одной плоскости.
По тем же причинам образуются плоские галактики. Или, например, по той же причине орбиты планет солнечной системы лежат примерно в одной плоскости и продолжают дальше стягиваться в плоскость.
Задача трех тел, взаимодействующих через гравитацию, приводит к такому результату, что вектора моментов вращения всех трех тел с течением времени эволюционируют так, чтобы быть параллельными друг другу. При этом выполняется закон сохранения общего суммарного момента вращения. Это очень нелинейный эффект, который трудно объяснить "на пальцах" по простому.
Если Вы знакомы с теорией возмущений, то можете рассмотреть модель, где вокруг массивной звезды вращаются две планеты, масса одной много больше массы другой. При такой постановки задачу трех тел можно свести к параматрической задаче двух тел, типа параметрических колебаний. И далее по теории возмущений надо сделать разложение по параметру отношения масс малой планеты к большой и тогда можно увидеть, что плоскость легкой планеты эволюционирует к плоскости массивной планеты.

Скорее всего, облако изначально вращается вокруг оси.

Иначе не образовывался бы протопланетный диск, например.