моя мама умерла и сын моей умершей сестры заявляет на долю собствености матери имеет ли он право

Да. Важен только размер этой доли. Если вас у мамы было 2-е, то вам положена половина, и сестре тоже, если у неё 2 ребёнка, то каждому по четверти уже.

Да, в данном случае, как наследник по праву представления !

он наследник по праву представления

Да, имеет.

у вашей мамы было 2 дочери
и каждая дочь имеет право на наследство после умершей матери
но ваша сестра умерла, поэтому вместо нее наследовать будет ее сын

имеет право.