Как получить эстонский паспорт, если там жили родственники до 1940 г?

Смотря что за родственники ?
если прямые (дед/бабка) , и они жили в Эстонии во время первой эстонской республики (1920-1939гг. ) и этому есть документальные подтверждения - можешь ходатайствовать об эстонском гражданстве. (после сдачи минимума по языку и Конституции ЭР)
Но от российского гражданства придется отказаться.

а нах он нужен ?
со следующего года введут безвизовый режим с ЕС и все преимущества исчезнут.
(разве что Соединенное королевство как обычно останется в стороне - по эстонскому туда можно без визы)