Вам невозможно ответить исчерпывающе.
Готика в литературе - это, в принципе, поджанр романтизма, возьмите ту же Радклифф.. . Можно почитать отличную статейку Лавкрафта "Сверхестественный ужас в литературе", там помимо прочего подробно рассматривается готический роман как направление.
Декаданс, как литературный жанр не существует. Декаденство может быть присуще тем или иным авторам, однако это не литературное направление, а скорее культурно эстетический взгляд на вещи. К авторам которым этот самый взгляд близок мы можем причислить По и как поэта и как прозаика, Бодлера, позднего Мопассана, возможно Уайлда. Среди отечественных авторов уместно будет вспомнить Брюсова, в особенности "Огненный Ангел", Сологуба "Тяжёлые Сны" и другие его произведения.
Можно так же заметить, что если готический роман подразумевает мистический элемент в повествовании, то в случае с произведениями декадентов, это совсем не обязательно.
Наверное всё. Извините за сумбур.