Вопрос в англ яз, я не знаю правильно ли я составил предложение.

И по-русски-то звучит коряво ("с тех пор"лишнее).
Паст симпл будет.

The present perfect tense usage.
Форма: вспомогательный глагол have/has и причастие прошедшего времени от смыслового глагола.
1. Событие, произошедшее или не произошедшее к данному моменту, результат. I have left my shopping bag behind. Я забыл свою авоську. I haven't called her. Я ей не позвонил.
2. Состояние, длящееся до настоящего момента. I’ve been tired. Я устал.
3. Обычное действие или привычка, существовавшие до сих пор. I have never worn long skirts. Я никогда не носила длинных юбок.
4. Несколько событий, произошедших на данный момент. I have been to Paris three times. Я был в Париже три раза.
5. Состояние к текущему моменту с указанием длительности с глаголами, не использующимися в продолженной форме. I have known him for two years. Я знаю его уже два года.
6. События, которые состоятся к будущему моменту, в дополнительных предложениях. I will give you the book when I have read it. Я дам тебе эту книгу, когда прочитаю её.
7. С вопросительными словами how many/how much в предложениях, где не указано время события. How many pages have you read? Сколько страниц ты уже прочитал?
8. Для подчёркивания недавности произошедшего события. I have just broken a cup. Я только что разбил кружку.
The present perfect continuous tense usage.
Форма: вспомогательные глаголы have/has been и причастие настоящего времени от смыслового глагола.
1. Длительное действие, которое началось в прошлом и продолжается до сих пор, с предлогами since/for. I have been walking for three hours/since morning. Я иду уже три часа (с утра).
2. Объяснение нынешнего состояния. I am tired because I have been digging the garden. Я устал, потому что копал огород.
3. В вопросах, начинающихся с how long/since when. How long have you been waiting? Сколько вы уже ждёте?
4. Вопрос с критикой: When have you ever been cooking? Да, когда же такое было, чтобы ты готовил?
The past simple tense usage.
Форма: вспомогательный глагол did с инфинитивом смыслового глагола или смысловой глагол во второй форме.
1. Прошедшее действие с прямым или косвенным указанием времени. Yesterday, last week, an hour ago, the other day, on Monday, in 1995, during the war, in Warsaw. He came yesterday. Он прибыл вчера. The lesson started 10 minutes ago. Урок начался десять минут назад.
2. Последовательность прошедших действий. He left the hotel, took a taxi and drove to the theatre. Он вышел из гостиницы, взял такси и поехал в театр.
3. Обычное повторяющееся прошлое действие. Last year I often went to the cinema. В прошлом году я часто ходил в кино.
4. Прошлое состояние. I lived in Poland for 5 years. Я жил в Польше пять лет.
5. Будущее гипотетическое действие в условных предложениях. If you went there tomorrow, you would see him. Если бы ты пошёл туда завтра, ты бы его увидел.
6. Настоящее гипотетическое действие или состояние в условных предложениях. If you went there every day, you would see him. Ходил бы ты туда каждый день – ты бы видел его.
7. Просьбы, пожелания, сожаления, начинающиеся с I would rather/sooner/prefer that, if only, I wish. I wish I didn’t have to work. Жаль, что мне приходится работать. If only you spoke Italian. Если бы только вы говорили по-итальянски. I would rather that it were summer now. Жаль, что сейчас не лето.

либо I've been going to the gym since I came here 2 years ago.
либо I started going to the gym when I came here 2 years ago.

Смотря что вы хотите ОСОБЕННО подчеркнуть этим выражением. Если ДАТУ начала ваших занятий, то past simple, если ДЛИТЕЛЬНОСТЬ -- то present perfect, а если не только ДЛИТЕЛЬНОСТЬ сколько вы уже занимаетесь, но параллельно вы хотите указать, что ВСЁ ЕЩЁ ПРОДОЛЖАЕТЕ заниматься, то present perfect continuous -- хотя с этим 3-м вариантом лучше не связываться )))

Добавлю к Алексею.
two years ago - законченный период времени, однократное действие - без вариантов Past Simple

Если вы хотите сказать, что "начали" - то тоже без вариантов Past Simple, потому что это однократное действие, которое случилось тогда же, 2 года назад.

А если вы хотели употребить Present Perfect Continuous, то вам придется отказаться от глагола "начинать". Тогда вам нужно говорить о действии, которое началось в прошлом, продолжалось два года и продалжается сейчас. Это действие не "начинать", а "ходить/посещать".

В Present Perfect вы здесь ничего поставить не сможете, так как у вас нет законченных действий, которые вы соотносите с настоящим моментом времени или завершенных в незаконченный период времени.