В чем может быть проблема? Компьютер "зависает" примерно после 10 минут игры в игры с 3Д-графикой.

Провести температурный контроль всех частей компа . Основное - процессор и видеокарта . Короче - 5 минут поиграл - вышел из игры ( alt + tab ) и смотри температуру проца, видео и материнки . Программы для контроля как правило есть на диске для материнке, либо Everest, Si Soft Sandra, Riva Tuner ( для видео ).
Дыма без огня не бывает - что-то у тебя перегревается . Кроме того, если комп слабенький, то он и не должен тянгуть игры . Что за проц и видюха ?

Питание недостаточное при работе с мощной графикой (хорошо бы 600 и выше ватт) . Видюха перегревается (слаба вентиляция).. . Пыль на кулерах в системнике. Дрова к видюхе стары и глючны. В Винде накопилась безобразная куча старых хвостиков от прог и игр.
Всё это хорошо бы исключить по пунктам. А потом шаманить с бубном.

перегрев - поставь программу типа Everest и измеряй температуру процессора и графической карты при игре. Чтобы видеть экран с датчиками - подключи второй монитор (можно даже самый простой) и на нем смотри за температурой.
Есть хорошие дополнительные вентиляторы Zahlman возможно нужна дополнительная вытяжка из корпуса

в студию! : конфигурацию системного блока, в какую игру играете и при каком разрешении.

everest + rivatuner, настрой чтоб риватюнер писал в лог данные эвереста,
играй - смотри. или крути бублик + стресс тесты, иши где слишком высокая температура.
потом гони меметсты если версии с процессором и видеокартой не подтвердились

для начала прочисти комп от пыли, далее попробуй перейти на виста (если железо позволяет) , самое минимальное, переустанови драва новые с сайта производителя, если не канает, тогда неполадки в чипсете, ведь он решает около 90% параметров производительности материнской платы

А может просто видеокарта слабая, для этой игрушки?

Играть надо меньше