Шейдеры очень требовательны к компьютеру, в майнкрафте, сколько бы оперативной памяти у тебя не было, он будет использовать только 1 Гб и сколько-то Мб памяти видяхи, подробней, о том как выделить память для джавы - здесь.
Не советую использовать эти шейдеры так как они очень не доработаны, в темных пещераз светлеет по утрам когда все закрыто (и др. баги) . Поставь мод OptiFine (советую если многоядерный процессор, + не забудь выделить память под джаву)
Ставь версию "Ultra" она как раз подходит для "многоядерников", когда поставишь увеличится кол-во кадров в секунду (FPS) и обязательно в настройках графики Rendering (вроде) Smooth или Multi-Core (изначально стоит Standard) Также шейдеры жрут много памяти видяхи, так что минимум 1 Гб, и в джаве выдели.
P.S. Кстати не факт что шейдеры не будут конфликтовать с модом для оптимизации - OptiFine'ом, так что поможет только выделение памяти, это обязательно, так как если этого не будет майнкрафт так и будет сильно тормозить.