Если это комп, то есть системный блок, и видеокарта встроенная, тогда можно увеличить за счёт оперативки.
Заходим в БИОС и выставляем максимально нужный объём памяти под видео.
Если объём уже выставлен самый большой, можно посмотреть новые версии БИОСа, возможно там разработчики могли увеличить допустимые значения. (ключевое слово "возможно").
Ну а если стоит отдельная видеокарта - то НИКАК. Только через магазин, с покупкой новой, более ёмкой видюхи.
Программ ни для компа, ни для ноута, чтоб увеличила память - НЕТ.