Можно ли бронировать билет только в одну сторону, не остановят ли на таможне без обратного билета. ??

На таможне не остановят, паспорт проверяют на паспортном контроле.
Обычно спрашивают (если и спрашивают) цель поездки, сколько дней, где планируете остановится, покажите страховку.
Если поездка не первая, а виза мульти, то могут и вообще ничего не спросить. А если и спросят, то: "Я уезжаю 20 сентября, у меня электронный билет, поэтому он не распечатан, а жить я буду у друзей" (или: "вот моя бронь отеля и страховка").

На самом деле, все индивидуально, и зависит не только от страны, но и от паспортного офицера, который может задавать какие-нибудь идиотские вопросы (например, я летала 4 (!!!) раза в Копенгаген через Стокгольм (без транзита, нужно было переходить в другой терминал) , потому что рейс с пересадкой дешевле почти вдвое, и меня в Стокгольме каждый допрашивали, почему у меня обратный вылет из Копенгагена, а прилетаю я в Стокгольм. На третий раз я подготовила подробную распечатку со стоимостью перелетов, и просто показала ее в окошко: смотрите, я могу лететь за 300евро через Стокгольм в Копенганен, а могу за 600 напрямую туда, вы как бы выбрали... .

Не остановят, это Ваше право может Вы обратно на машине-пароходе, подводной лодке-поезде возвращаться будете? Только вот билет в один коне может стоить 70% от билета "туда и обратно". Есть такие билеты, называются "с отрытой датой" .Они тоже не дешевые, но там обратную дату можно менять. . Есть обычные билеты, где обратную дату можно менять, ну не в последний день, конечно, проконсультируйтесь в авиакассе о возможностях тарифа.

при посадке у авиакомпании могут быть вопросы

Да кому нужен этот ваш билет? :)

Смотря куда билет. Для визы в Европу наличие обратного билет обязательно (если вы собираетесь возвращаться :))))