Подобная обработка известна ещё со времён чёрно-белой "плёночной" фотографии. Называется "соляризация" или "эффект Сабатье":
http://photo.eds.co.ua/the-sabattier-effect.php - при этом "в негатив" уходят только светлые или тёмные области (в зависимости от того на какой, негативной или позитивной, стадии обработки производится процесс).
Есть, конечно, возможность сымитировать подобную обработку используя графический редактор. В Фотошопе, например, есть стандартный фильтр: Filter > Stylize > Solarize - так что никакая "трассировка" или "топазклин" для этого не нужны... но, при желании, можно и вручную повозиться:
https://photography.tutsplus.com/tutorials/quick-tip-using-adobe-photoshop-to-create-a-solarised-photograph--photo-5973
Вот демонстрация принципа с помощью инструмента "кривые" (GIMP):
Правая точка опущена вниз "до упора", а положение, вновь созданной, средней определяет общую яркость результирующего изображения (вверх<->вниз) и "границу раздела" между "позитивом" и "негативом" (влево<->вправо).
P.S. К сожалению, поисковики на русскоязычный запрос о соляризации выдадут кучу ссылок на псевдонаучную и опасную методику "исправления зрения методом соляризации".
и потом можно создать дубликат слоя и на верхнем слое затемнить основу. можно поиграть с прозрачностью