Почему такое происходит? до обработки фон был такой, а после пошел пятнами и артефактами?

Этот эффект называется постеризацией. Такое происходит из-за недостаточного цветового разрешения и недостаточного пространственного разрешения формата JPEG для цветокоррекции. В исходном изображении было малоконтрастное изображение, цветовые значения пикселей которого были очень близкими, сами пиксели были на среднекачественном мониторе неразличимы, тем более, в тенях (тут роль сыграла характеристическа глаза и отчасти особенности монитора), разница между значениями яркости была около единицы, на самом деле поменьше (в %п., после гаммы). Далее к этим пикселям примениили кривую, увеличивающую контраст в тенях, разница яркости умножилась на тангенс угла наклона этой кривой, теперь она составляет около 10 %п. Далее Вы рассмотрели это же изображение в увеличении, при котором начинает играть роль разрешение хромы. Обычно это не важно, но только не вблизи нейтральных цветов, к небольшим вариациям вокруг которых глаз очень чувствителен.

Если изображение снято в JPEG, то от подобной обработки обычно нужно либо воздержаться, либо применить меры для уменьшения описанных эффектов (ценой значительного увеличения трудоёмкости процесса и ценой небольшой потери резкости).

Потому что Jpeg это конечный формат, не предназначенный для каких либо последующих изменений, даже простое пересохранение Jpeg ведёт к заметной деградации изображения.

Проблема в самом JPG - потери из-за сжатия

а нефиг жыпег сжимать до 50% да ещё после того, как снимешь в "нормальном" качестве

Полагаю потому, что ты ничего не понимаешьв обработке, а вдобавок к этому не видишь дефектов во время работы . И если однотонный неравномерный фон можно тупо закрасить, то вот эти ляпы исправить уже невозможно .

А это напрямую относится к вашему вопросу:
"Зачем снимать в RAW, когда можно снять в JPG?"
Вот у вас и полезли артефакты из-за того, что у JPG-а проблемы с глубиной цвета...