поехали отдыхать в Абхазию, но уже по пути увидели что на свидетельстве о рождении ребенка не стоит штамп о гражданстве.

По соглашению об упрощенном порядке въезда граждан между Абхазией и РФ такой штамп необходим. Но если у ребенка в свидетельстве о рождении указано, что родился в РФ, гражданство родителей- российское, то могут и пропустить. Все зависит от решения начальника пункта пропуска