Как подсчитать энергию света используя знаменитую Е=мс2

В том, что вы формулу написали неправильно. Правильно так: Ео = mc^2, где Ео - энергия покоя. А покоя у света не бывает.
А это, в свою очередь, частный случай формулы Е^2 = m^2*c^4 + р^2с^2. Откуда сразу для фотона Е = рс. И это совсем не ноль. Осталось умножить на число фотонов.

Масса ПОКОЯ фотона отсутствует. Но при движении она далеко не равна нулю...

Забудь про эту формулу, это архаика.
Вот современная:

В том, что свет обладает массой.
У него нет массы покоя.

Основной подвох в том, не всякая формула в которой содержится величина (с - скорость света) имеет прямое отношение к свету. С таким же успехом можно было бы взять формулу для кинетической энергии E=m*v^2/2 подставить в нее v=c и m=0 и получить ноль. Только в два раза меньше, поскольку пополам :-)

Формула E=m*c^2 описывает собственную, можно сказать потенциальную энергию частицы с ненулевой массой, например ядра. Пользуясь этой формулой можно посчитать сколько энергии выделилось при распаде ядра, если известна масса исходного ядра и масса частиц, на которое она распалась. Это формулу следует применять в этих случаях.

Вычислить энергию фотона по этой формуле нельзя. По формуле E=pc ее можно выразить через импульс. Но, спрашивается откуда мы возьмем импульс? Получить энергию фотона напрямую можно зная его частоту nu, E=h * nu

Используй другую знаменитую E=hv.
Тем более, что эту знаменитую ты неправильно используешь.