Сколько должен быть зазор для пены при установке пластиковых окон? имею ввиду зазор между стеной и рамой.

Минимум 1.5-2см..

40-50мм

Зазор на тепловое расширение должен составлять от 0,8 до 1,5 см. Меньше будет недостаточно для "гуляния" окон и расширения пены.

5см это конечно круто :)))))
Боковой зазор между рамой и поверхностью по ГОСТу, смотрите в таблице по ссылке http://remontofil.ru/ustanovka-plastikovyih-okon.html, зависит от материала и размера оконного блока. Но никак не больше 35мм! А в некоторых случаях и 15мм. Там подробнее

3см вполне достаточно будет.

Да, вроде не больше 1-1,5 см и заштукатурить через пару дней шов пены надо бы, а то на солнце пропадет или влаги зимой натянет, замерзнет и может даже стекло лопнуть, я слышал, у одних такое было.
Сильно маленький зазор тоже нельзя - играть оно должно при перепадах температуры. В деревянных домах горизонтальный зазор должен быть больше - на усадку стен поправка.

зависит от материала стен. Для кирпича/бетона - 50мм. Для дерева бока и низ - 50мм, сверху 50мм + высота проема * 6% (на осадку бревен) .
Для проемов с замком в 1/4 или 1/2 выступа (кирпича или бетона) - не должен превышать этих величин...

Для пенного шва зазор в 1,5% от длины (высоты) рамы с каждой стороны, коэффициент температурного расширения-сжатия пвх профиля примерно 1% от длины