Вы смешиваете две совершенно разные материи. Мат в повседневном быту - индикатор культурного уровня и смешения социальных субкультур. Т. е. среднестатистический профессор матерится не хуже сапожника и наоборот. Использование мата в литературе - неприятно, конечно, но литература - кривое зеркало, отражающее реальный мир. Граф Л. Н. Толстой и тот без мата не обошёлся в сцене охоты во втором томе "Войны и мира". Если учесть, что среднестатистический россиянин обходится 300-400 словами в быту, заменяя остальное матом - чему же удивляться? !
Неужели вы так и не поняли, что литературным может быть всё что угодно? Это зависит от конкретного писателя и конкретной коллизии. Сравните, насколько отвратителен "Николай Николаевич" Алешковского, и насквозь поэтичны "Москва - Петушки" Ерофеева, хотя в плане изображаемой реальности одно недалеко от другого.
На Ваш вопрос нельзя ответить так, чтобы ни вправо, ни влево. Да, в языке есть такие единицы, они зафиксированы в соответствующих специальных словарях или иногда даются в общих словарях с соответствующими пометами. А применения этих единиц очень разнообразно: выражение сильных эмоций (что бывает и у очень высоконравственных и образованных людей) , связь слов в предложении (это у безграмотных) , языковая игра (а это даже у писателей, составляющих гордость литературы нашей) , разграничение по принципу свой-чужой в криминальной среде (по крайней мере, часть мата - та, которая идет с "нар"). Есть и другие применения.
Мат не литературен в том смысле, что он за гранью современного русского литературного языка. Да, это грязное ругательство, что не делает его менее прекрасным и поэтичным - в определенных ситуациях.
Но! Между матом и безнравственностью знак равенства ставить ни в коем случае нельзя.