Есть ли смысл создавать новую операционную систему, в смысле комерческой выгоды и пользы? Можно ли её раскрутить ?

конечно есть, винда надоела, мак тоже, возьми за основу ядро линукс и навесь на него что-то своё и назови как хочешь, потом разкручивай (при этом ты должен обеспечить систему ходовым софтом и играми)

если основа Linux - можно создать
раскрутить нет ...
если винда - только говносборку с помощью nLite - раскрутить - нет ...
если создашь свое ядро OS - Savshyk - можно но не реально ...

А зачем изобретать велосипед? Может улучшить существующее?

Исключено. Т. к. трудозатраты огромные, а нужность нулевая. Ну кто будет смотреть новую ось, когда есть нормальные отлаженные виндовсы и линуксы. Взять ту же колибри, мелкая и быстрая. И то еле дышит

Дениска Попов вон сделал BolgenOS, некоторые до сих пор думают, что это не убунта. А система то до сих пор на слуху.

Разве что программную среду для использования в готовых ОС. Их и так уже навалом .

Если сумеете создать, заинтересовать производителей, почему бы и нет.. .
Но масса решений уже запатентована, не стоит их повторять, начинать придёться практически с нуля.