Цель: играть в современные игры на ультра настройках графики. Если я поменяю видеокарту на более современную, решит ли это задачу? или все остальное тоже нужно будет менять?
В общем подскажите пожалуйста как быть.

Изначально сборка не правильная, типа "Эльдорадо", очень слабая, я бы сказал никакая для игр видеокарта. У вас 2 пути-повысить производительность своей системы, заменив видео на 7770 или 7790, смотря еще какой у вас блок питания, либо меняя все, на более производительное.
Система нормальная, но не крутая. На ультра настройках играть не позволит. А нужны они реально? Вот в чем вопрос. И, если взять мониторчик где-то дюймов на 27, то уж не знаю, чего надо навтыкать, чтобы на ультра тянуло.
Мой совет - посидеть еще годик на этой машине, а потом брать новый системник. Как раз к тому времени память ddr4 должна появиться и другие революционные новшества.
Мать менять не надо. Поставить "феном 2", на шесть ядер, хорошую видеокарту и если останутся деньги - я бы поменял память, . Поставил бы DIMM DDR3 4096MBx2 PC12800 1600MHz Kingston HyperX Red Limited Edition - две штуки, благо мать как раз столько и поддерживает.
быстрый тюнинг при малых затратах и улучшениях в играх- радик 7770
Если нет доп. системы охлаждения, то будет жутко греться процессор и будет притормаживать.
не стафь этот феник они тебе щяс насоветуют 6 ядерный феник как кор ай 3 2ядерний став кор ай 5 и нормальную видяху в полне достаточно будет