Если в теории тяготения считать, что гравитирует не масса, а релятивистская масса, то это объяснит орбиту Меркурия?

Употреблять слово МАССА с всякого рода "уточнениями" (покоя, релятивистская, инерционная, гравитационная, и т. д.) - неграмотно. См. статью акад. (со всемирным авторитетом !): Л. Б. Окунь "Понятие массы (Масса, энергия, относительность)" //"Успехи физических наук" т. 158 (вып. 3) с. 511–530 (1989), доступна на
http://ufn.ru/ru/articles/1989/7/f/

Если кратко, то использование подобных неумных понятий ведёт к идиотским ситуациям вроде следующей - "масса" тела зависит не только от его скорости, но и от угла между скоростью и приложенной к телу силой, и т. д..

А отклонение света в грав. поле может описываться как частный случай отклонения тела под действием на него силы (сила определяется как dp/dt)
F = (E/c²)((1+β²)grad(φ)-(β∙grad(φ)β),
где β = v/c (вектор), φ - грав. потенциал.
Никаких релятивистских и гравитационных "масс" !!!Иначе, например, придётся признать, что горизонтально летящий фотон, который отразится от зеркала и полетит вверх, в результате отражения удвоит свою (гравитационную) массу. И другого маразма тоже хватит.

Так что по поводу слов "Я имел в виду, что по Ньютону фотоны не должны ...Потому я и предложил взамен релятивистскую массу" могу сказать, что, по крайней мере в науке, не стОит предлагать своё, не изучив чужого (в смысле установленного другими).

2.Абзац 1 ответа Д. Н. верен отнюдь не во всём. Оказывается, что по крайней мере в случае нерелятивистских тел гравитирует (т. е. входит в уравнения для грав. потенциала) не масса и не тензор энергии-импульса целиком, а (лишь) 2T(↑0,↓0)-T = T(↑0,↓0)-Т (↑1,↓1)-T(↑2,↓2)-T(↑3,↓3), т. е. плотность энергии минус плотность натяжения (а плотность импульса не входит).

Кстати, именно благодаря членам натяжения, имеющимся тут, гравитирует тёмная энергия (но это не мешает ей, наоборот, приводить к расширению Вселенной - таковы уж уравнения). А в случае растянутых мембран члены натяжения приводят (для обычных мембран - к сверхслабой частичной) АНТИгравитации. Но, кстати, не стОит питать надежд, что в будущем мы научимся создавать фундаментальные мембраны, в результате чего овладеем антигравитацией - чтобы мембрана не схлопнулась, ей нужна рамка, а рамка-то и "съест" >100% эффекта антигравитации - по крайней мере на расстояниях, сравнимых с размером рамки и на бОльших.

3.Вопреки утверждениям абзаца 2 Д. Н., понятия грав. волн и запаздывающих потенциалов при выводе векового смещения перигелия Меркурия и т. д. НЕ ИСПОЛЬЗУЕТСЯ. Используется ЛИШЬ тот факт, что (статическая !) метрика и соответственно гравитационный потенциал вокруг гравитирующего тела отличаются от ньютоновских и что они описывается решением Шварцшильда. См. § 101 кн. Ландау Л. Д., Лифшиц Е. М. "Курс теоретической физики. Т. 2. Теория поля" (есть на alexandr4784.narod.ru/landau_02.html и др.).

А запаздывающие потенциалы - это часть инструментария способа описать ДИНАМИКУ поля. А здесь поле статическое. И никакой переход от инерциальной системы отсчёта к неинерциальной не приводит к возможности использовать инструментарий запаздывающих потенциалов в этой задаче.

4.Насчёт "Кстати, а ведь должен по ОТО наблюдаться эффект Доплера гравитационных волн - есть?".
Во-первых, эффект Допплера - это из СТО, а не ОТО, какой бы теорией сами волны не описывались. Во-вторых, для наблюдения эфф. Д. нужны монохроматические волны. А грав. волны только-только начали детектировать, и от совершенно немонохроматических источников. А имеемые в виду более-менее монохроматические - на много порядков слабее.
Так что согласно теории должен существовать, но до экспериментальных наблюдений очень далеко.

Физик. ◘○

В теории тяготения (ОТО) считается (а точнее доказывается), что гравитирует не масса, а энергия/импульс/напряжение. Соберёте вы (при предельном переходе к ньютоновому закону тяготения) этот комплекс (тензор) величин в массу или в релятивистскую массу (синоним полной энергии), на результат не повлияет. Повлияет на буковки в формулах и слова вокруг формул.
На орбиту Меркурия (вращение перигелия) повлияет факт конечности скорости гравитационных волн (чего у Ньютона нет). Меркурий притягивается не к тому месту, где Солнце сейчас, а к тому, где оно было три минуты назад (запаздывающие потенциалы).

От люблю я таких людей. Начинаешь вдумываться в вопрос, пытаться понять логику, увязать причинно-следственные связи - а потом понимаешь, что человек просто прочитал десяток умных слов, их в кучку сложил и ходит довольный :)

1) Нет релятивистской массы. Есть релятивистская форма "второго закона Ньютона" и всех следующих из него вещей.

2) Если бы была "релятивистская масса" и она гравитировала бы, то весь мир бы сколлапсировал на пролетающие по космосу мелкие частицы с околосветовой скоростью - ибо их гравитация была бы чудовищно велика.