какую видеокарту можно приобрести

Любую PCI-E

Максимум RTX 2080Ti - пока не вышло что-то мощнее.
Правда для неё тебе нужен будет солидный Блок Питания

На какую денег хватит и мощности блока питания, надо знать бюджет, модель БП и задачи.

НУ такой камень потянет карту не мощнее GTX650. Камешек твой конечно слабоват.

Проц смени на i7 3770 + 1066 и нормас будет!
Для твоего проца максимум 1050 или rx 550

650 какой-нибудь будет с головой достаточно!

любую на которую хватит денег с интерфейсом pci-e (спойлер, все видяхи которым меньше 15 лет идут с pci-e за оооооооочень редкими исключениями)
но в игры всё равно не поиграешь из-за слабого проца, я бы рекомендовал взять e3-1230 с Ali или i7 2600 с Avito можно и i7 3770 или e3-1230v2 (или e3-1270 или e3-1270v2) но они будут дороже

С таким процом смысла ставить мощную карту нет. См. выше

Тебе бы проц поменять а не о видюхе думать

проц меняй на 4 ядерный 4 поточный intel xeon e3-1220 v1, v2 или intel core i5 2500 (3000 на али)
либо на 4 ядерный 8 поточный intel xeon e3-1270 v1 или v2 (5000 на али)

видеокарту на нвидиа 950 с 2 гб видеопамяти. или 960 с 4 гб видеопамяти (950 как 1050 по производительности, 960 как 1050ti).

Единственное у 960 с 4 гб высокое энергопотребление и не знаю вытянет ли блок питания.

поэтому:
1) либо intel xeon e3-1220 v1, v2, intel core i5 2500 (3000 на али) с видеокартой нвидиа 950 (2 гб версия - 5000 на али)
2) либо intel xeon e3-1270 v1, v2 (5000 на али) с видеокартой нвидиа 960 (4 гб - 7000 на али)

гтх-1050ти, мощней твой бп подохнет.