В наличии компьютер на 775 сокете прошитый под Xeon Видеокарта gts 250 512mb, 3 ГБ озу

стоит
максимум что вытянет GeForce GTX 1050Ti
озу минимум 4 гиг

У разных игр и программ разные требования к процессору, видеокарте. Что-то будет "тянуть", что-то не будет "тянуть".
Ограничений нет, только по питанию.

В видео и ОЗУ

Карту скорее всего можно поставить любую но скорость работы будет ровно такой какую обеспечивает версия PCI-e x16 слот платы, нетрудно догадаться что на s775 плате будет 1 версии, s775 уже устарел и для современных игр мало годиться даже с списанными s771 зонами, для интернета видео и т. д. вполне сойдёт.

Если просто сёрфить в Рунете — никаких проблем . Но если ты имел ввиду игрушки — всё упираться будет в эти 3 Гб ОЗУ . Это крайне мало, а на файле подкачки оперативной памяти далеко не уедешь . И видеокарта не айс (смотри где она расположена, а от этого напрямую будет зависеть FPS в играх )
Чип видеокарты ( индекс производительности видеокарты в играх, G3D Mark videocardbenchmark.net)
GeForce 210 (176)
Radeon R5 230 (315)
GeForce GT 610 (352)
GeForce GT 240 (651)
GeForce GT710 (665)
GeForce 9800 GT(712)
GeForce GT 630 (746)
GeForce GTS 250(879) ————— !
GeForce GT 730 (920)
Radeon R7 240 (969)
Radeon R7 250 (1411)
GeForce GTS 450 (1558)
GeForce GTX 650 (1833)
GeForce GTX 550 Ti(1928)
GeForce GT 1030 (2262)
GeForce GTX 460 (2656)
GeForce GTX 560 (3120)
Radeon R7 360 (3262)
GeForce GTX 560 Ti(3535)
Radeon RX 550 (3565)
GeForce GTX750Ti (3697)
Radeon RX 460 (4319)
Radeon RX 560 (4420)
GeForce GTX 1050 (4596)
GeForce GTX 760(4939)
GeForce GTX 580(5021)
GeForce GTX 950(5210)
GeForce GTX 960(5804)
GeForce GTX 1050Ti (5931)
Radeon RX 570 (7048)
Radeon RX 470 (7498)
Radeon RX 580 (8240)
GeForce GTX 970 (8593)
GeForce GTX 1060 (8713)
GeForce GTX 1070 (10951)
Radeon RX Vega 56 (11294)
Radeon RX Vega 64 (11852)
GeForce GTX1080 (11996)
GeForce GTX1080Ti (13415)
NVidia Titan Xp(14100)
NVidia Titan V (14111)