Как приложение общается с Windows

Программа на C/C++ через библиотеки импорта ссылается на стандартные системные DLL Windows. Функции в этих DLL описаны в документации как функции Windows API. Посмотри описание функций в документации, там всегда указана DLL.

Как эти DLL вызывают ядро ОС - это тема внутреннего устройства Windows. Программисту не обязательно это знать.

Компилятор не знает, где находятся библиотечные функции. Компилятор видит только заголовочные файлы. Из них он узнаёт о существовании этих функций, об их параметрах и о способе передачи параметров. Для компилятора это внешние функции. Подключение библиотек (в том числе библиотек импорта) - это работа линковщика.

В интернете есть книга
Рихтер Джеффри. Создание эффективных Win32-приложений с учетом специфики 64-разрядной версии Windows
Там подробно рассказано о способах подключения DLL. И ещё много чего (что я не знаю).

Типичная информация из документации по WinAPI:
Library Kernel32.lib -- библиотека импорта. Через неё подключается DLL
DLL Kernel32.dll -- DLL, в которой содержится функция.

Условная адресация. Обращается по смещению наасколько я помню.

Функции WinAPI в библиотеке WinAPI. Куда они дальше обращаются вряд ли известно это уже внутренняя архитектура ОС. Может это даже каким копирайтом защищено. Но принцип тот же - цепочка библиотек (включая драйверы), вызывающих друг друга.
Есть еще стандартные функции BIOS для работы с железом. Они в справочниках есть. Винда их мало использует, у нее свои драйвера для этого. Но если самому систему писать, то можно использовать для стандартных операций.