Почему человек пятипал, хотя доминантным явлвется ген шестипалости?...

мало ли какой ген доминантен!
доминантность - это свойства гена проявлять какой-то признак и не более того.
доминантный ген передается точно так же, как и рецессивный, без всяких преимуществ.

если бы шестипалость приводила к большему числу потомков - ген распространился бы. Но тут наоборот - за шестипалых не хотят выходить замуж или жениться на них, у них меньше потомков, чем у нормальных, потому ген и редок.