можете дать простое объяснение, что такое релятивисткая масса и как она соотносится с массой покоя?

Не будучи физиком и имея испорченное образованием восприятие реальности, я очень специфично воспринимаю материал. Но попробую выразиться - прошу не пинать ногами, если в чем-то ошибусь.
Свойства важнее формул. Свойства способны придать величинам математический, а в физике еще и физический смысл.

Свойства такие:
1 (Аддитивность). M rel системы, составленной из частей, равна сумме релятивиских масс частей.
Примеры величин, обладающих аналогичным свойством: энергия, импульс, момент импульса.
Примеры величин, не обладающих этим свойством: масса (то есть масса покоя по-Вашему).

2. В инерциальной системе отсчета: релятивская масса не изменяется во времени.
Примеры величин, обладающих аналогичным свойством: энергия, импульс, момент импульса. И масса покоя (просто масса) - тоже.
Любая величина, выражающаяся только через постоянные по времени величины, тоже не изменяется во времени.

3 (Инвариантность). Масса (масса покоя она называется в Вашем вопросе) не зависит от системы отсчета.
Примеры величин, обладающих аналогичным свойством: есть такие, они важные, но они не на слуху в научпопе. Интервал. Действие. Двух непонятных слов хватит для начала.
Примеры величин, не обладающих этим свойством: энергия, релятивистская масса, импульс, момент импульса и тп.

4. Если для рассматриваемых объектов можно выбрать инерциальную систему отсчета, в которых скорость объектов намного меньше с, то в ней обе "массы" почти совпадут со своим ньютоновским приближением. Это позволит им придать не только математический смысл, но и физический.
Примеры величин, обладающих аналогичным свойством:
Да почти любые с привычными названиями. Энергия, импульс, момент импульса и тп. Это одно из основных свойств, дающее величинам названия и дополняющее математический смысл физическим.

И еще: про величины, для которых вполняются свойства 1 (аддитивность) и 2 (постоянство по времени), обычно говорят, что они подчиняются законам сохранения. Но все-таки физика неформальная наука, так что требование аддитивности (вроде бы) иногда опускают - сами сможете выбрать из 8 законов сохранения в википедии аддитивные и не очень.
Величины, для которых выполняется свойство 3, называются инвариантными.

Ну и самое важное... у энергии и "релятивисткой массы" сравните свойства. Чисто ради прикола. Может, это вообще одно и то же с точностью до множителя, а релятивистская масса и не нужна вовсе?

Релятивистская масса - устаревшее понятие времен становления специальной теории относительности.
Сейчас не используется.
Тем не менее, Mрел = M/корень (1 - v^2/c^2).
Здесь M - масса тела, Мрел - релятивистская масса тела, v - скорость движения тела относительно инерциальной системы отсчета.
Масса покоя - то же самое - устарело. Сейчас используется просто "масса".

релятивистская масса - это масса покоя, делённая на квадратный корень из "1-(v*v)/(c*c)".