В США пускают ли своих граждан за границу, если они должны государству?

Давайте по порядку.

1. В США никакого "государства" нет -- есть федеральное правительство, правительства штатов и местные власти. Федеральное правительство и большинство штатов устанавливают подоходные налоги, местные власти -- налоги на имущество. Есть и другие налоги, причем их сбор производится разными учреждениями. Соответственно, задолженность по тому или иному налогу -- это задолженность перед конкретной конторой, которая этот налог собирает, а не перед каким-то там "государством".

2. Ограничение свободы перемещения допускается только по решению суда (в отношении обвиняемого, который до окончания судебного процесса находится на свободе) или как условие при условно-досрочном освобождении. Причем судьи имеют достаточно широкую свободу для маневра -- судья имеет право по своему усмотрению, выслушав аргументы обвинения и защиты, запретить обвиняемому покидать территорию, на которую распространяется юрисдикция суда, или посадить его под домашний арест, или дать ему какие-то развернутые инструкции относительно того, где он имеет право находиться без особого разрешения суда. И нарушением считается именно выход за границы, определенные судом. Куда именно Вы решили поехать -- в соседний город, на Гавайи или в Рио-де-Жанейро -- не имеет ни малейшего значения.

3. Для того, чтобы задолженность по налогам стала основанием для ограничения свободы перемещения, она должна быть предметом уголовного разбирательства. Причем далеко не все судебные споры, связанные с налогами -- уголовные; большинство налоговых споров разрешаются либо в административном, либо в гражданско-правовом порядке.

Теперь все вместе.

Если контора, перед которой у Вас есть задолженность, считает, что Ваше уклонение от налогов носит преступный характер и должно рассматриваться в уголовном порядке, она должна убедить в этом соответствующего прокурора, после чего прокурор должен убедить в этом большое жюри, которое вынесет Вам обвинение. По результатам работы большого жюри прокурор составляет обвинительное заключение и передает его в суд. Судья, прежде чем рассматривать дело по существу, спрашивает у сторон, есть ли у них какие-то ходатайства. Прокурор, если он считает, что обвиняемый может скрыться от суда, должен заявить ходатайство о применении меры пресечения. Судья выслушивает это ходатайство (и контраргументы защиты) и назначает меру пресечения. Или отказывается ее назначить.

если они должны-они сидят в тюрьме. кто их выпустит

Наверняка. Иначе туристов из америки не было бы. Они там все в долг живут.