Как правильно: особенно выделялись а) три спортсменки, б) трое спортсменок?

Скорее нужно почитать не пр склонение существительных, а про употреление собирательных числительных: двое, трое, четверо и т. д. Как основное правило: они употребляются или существитеными МУЖСКОГО ПОЛА (двое друзей) , или с существитеными обозачающими детей (трое ребят) , детенышей (четверо медвежат) . Также с существителььными, которые употребляются только во множественном числе (семеро саней) , оозначающими парные предметы (трое туфель) и с субстантивированными (перешедшими из одной части речи в другую) : двое военных, трое отдыхающий. Во всех остальных случаях употребляются количественные числителльные.

Три спортсменки.
Только склонение тут ни при чем.

Ответ
Читай не только правила, но и просто больше читай книги (особенно классику) . На автомате будешь грамотно писать..