как масса ядра атома может быть меньше суммы масс нуклонов, из которых оно состоит?

это называется "дефект масс"
"пропавшая" масса преобразуется в энергию связи нуклонов в ядре:
по формуле Эйнштейна dE = dM * c²