можно ли будет заменить оптику nikon d3100

Для А3 явно лучше 5100 - там матрица лучше. Но оно надо кому? Ограничься А4 и 3100. У нас вообще фотки больше А5: 18х13 см не воспринимают.

Зеркалка тем и хороша, что для неё есть огромнейший парк сменных обьективов, разных и по качеству, и по светосиле, и по фокусному расстоянию.

фото А3 формата я спокойно делал с 8 мегапиксельного канона-350, здесь все зависит от качества снятого материала. Зеркалка хороша тем, что объективы сменные, поэтому без разницы, выбирайте то, что больше понравится, подержите их в руках, что лягло в руку, то и ваше. Если лягло подороже - потом никогда не пожалеете потраченных денег, если не лягло, то всю жизнь будите себя казнить за переплату.
Из массы вопросов про отечественную оптику, могу сказать, что Никон - единственный бренд, на который М42 объективы становятся только или с доп линзой или если есть сменный хвостовик адаптерный, и при этом работать можно только в мануальном режиме если у вас камера ниже Никон200. Поэтому если вы нацеливаетесь на сменную оптику - то прежде всего подберите ту оптику которая вам нужна будет через пол года, год и пр. И если ваш парк оптики будет состоять из объективов для другого бренда, то может быть Никон не ваша камера.
И самое главное - не спешите покупать, поскольку камера это не игрушка на один день, если есть сомнения, обдумайте покупку еще раз. Пока у вас не отпадут последние сомнения, что именно эта камера единственная отвечающая всем вашим требованиям.

Да можно. у 5100 матрица другая чем у д3100. Как новичку берите 3100 он по проще.