Расчет резисторов и транзистора

М-да... И косячок в схеме... Или в даташите этой МОСи несчастной http://html.alldatasheet.com/html-pdf/5039/MOTOROLA/MOC3041/258/1/MOC3041.html
Если верить даташиту эта схема не заработает. У светодиода ножка 1 - это анод, а у Вас к +5 подключён катод. Надо наоборот 1 и 2 поменять местами.
А формулы, если приблизительно рассчитать надо, то
R14 = (Uпит. - Uд - Uкэ) / Iд. ном. = (5 - 1,3 - 0,4) / (ток светодиода)
Если рассчитать обратно этот ток светодиода, получается, что Вы взяли всего 2,75 мА. Я бы рекомендовал взять хотя бы 10 мА или все 15 как в даташите. Тогда R14 получается между (300 - 220) Ом.
По поводу R13 тот же принцип. Смотрим даташит этой Вашей АТМЕГи: уровень логической единицы и выходной ток этой единицы.
От уровня единицы отнимаем напряжение база эмиттер транзистора (0,7 В) и полученное значение делим на ток единицы АТМЕГи. Получим минимальное сопротивление R13. Умножим его на (1,5 - 2) для надёжности, чтобы не выжечь выход контроллера.
Транзистор для VT5 подойдёт любой, скорее всего. Но на всякий случай можно посчитать необходимый коэффициент усиления по току. Разделить Ток светодиода номинальный на ток логической единицы выхода Вашей АТМЕГи.
Для запаса увеличить раза в (2 -5) и выбрать из справочника такой у которого параметр h21э будет не меньше полученной цифры.

Успехов!
А цоколёвочку МОС3041 всё же проверьте по даташиту.

С контроллером ясно, а простое мы не можем, ну вы блин даете.... Прям кино и немцы.... Ток открытия симистора, больше ни чего не скажу! Думай считай....