За яким математичним виразом можна обчислити енергію системи? Допоможіть будь-ласка.

Зависит от системы и процесса, который рассматриваете (т. к. энергия, даже полная, - величина относительная) . Определенной величиной является только изменение энергии, а не её абсолютное значение, поэтому когда говорят о текущем значении энергии системы, неявно подразумевают какой-то процесс перехода системы из начального ("нулевого") состояния в текущее.