муки выбора.... правильно ли я поступлю, если расстанусь....

мне видится хуже не будет

Этот человек сильно подавляет Вас. Он диктует Вам модель поведения. Рядом с ним Вы как личность развиваться не будете, а будете просто прыгать под его дудку. Поэтому я Вас полностью поддерживаю в вашем решении о расстовании.