Читаю книгу по операционным системам и понимаю что не понимаю написанного, возвращаюсь назад и опять не понимаю.

Проблема в изучении нового состоит в том, что мы за раз хотим освоить много материала и в итоге не понимаем ничего.
Новый материал нужно осваивать частями.
Прочитали не тему и даже не параграф, а всего лишь абзац, остановились, пересказали своими словами, как буд-то рассказываете кому-то.
Поняли, что что-то непонятно, это непонятное вбиваем в поиск а инете и получаем ответы.
В книгах часто даётся материал без вникания в мелкие детали, т. к. автор книги думает, что читатель знает, но если читатель не знает, то от этого у него получается непонимание всего материала, поэтому я и советую гуглить.
Именно так я учил и учу языки и сейчас говорю на 4-х, самостоятельно изучил микроконтроллёры, затем язык Ассемблер и Си, а сейчас вот изучаю новый язык RUST.
В общем понемногу программирую микроконтроллёры, чисто для себя.

Главное - не спешить, хотя иногда хочется побыстрее.
Но если торопиться, то в итоге вообще можно ничего не достичь.

Тут два основных ответа:
1. Либо у вас нет базовых знаний для понимания.
2. Либо писатель писал для себя, а не для людей.
Есть еще третий вариант, но вам он вроде как не идет: читатель просто бестолочь. Ну вот есть такие люди с низким IQ. Надеюсь - это не про вас.

Коли что изучаешь с этим нужно сливаться в единое.
Это как у алкоголики с алкоголем, прыщавые програмеры с кодом, электрики со щитком ну и т. п.
А многое действительно должно быть дано свыше...

Теорию надо сочетать с практикой. И, да, техническая литература это не бульварные романы. Вникать сложнее

Взять другую книгу и начать с простого)

Никак. Это или дано, или смирись, гуманитарий)

Очевидно тебе необходимо заполнить пробелы в знаниях каких-то сопряженных дисциплин, вероятно книга написана с учётом того, что читатель уже владеет ими.