Что нужно знать что бы понимать с++? Там постоянно нужно подключать библиотеки. Мне не понятно откуда компилятор берет

Мне не понятно откуда компилятор берет >> Они уже есть среди файлов компилятора, только нужно знать где искать. (я использую компилятор mingw могу для него сказать где)
сколько весит эти библиотеки >> А какова практическая польза от знаний того сколько весит та или иная библиотека? Главное что компилятор выбирает оттуда только те функции, которые вы указали, остальное не трогает.
почему без них нельзя >> почему нельзя!? Можно. Только вам самому придется писать функционал для вывода чего-то на экран. Самому писать как получать что-то с клавиатуры. А потом полученные данные с клавиатуры конвертировать в тот формат данных, который вас интересует. И т. д. и т. п. И это все придется самому!
А в чем собственно сложности?
iostream если знать немножко английский и чуть чуть фантазии и становится понятно что i - input, o - output, stream в переводе поток ввода вывода. То есть библиотека отвечает за ввод данных с клавиатуры и вывод данных на экран.
iomanip из предыдущего можно понять что такое io а manip от слова manipulation - манипуляция. То есть при помощи ее данные которые идут на экран можно распологать иначе (например сделать что каждое число в любом случае 10 знакомест занимает и то что не используется заполнять пробелами).
string - ну и так понятно что работа с классом string(строка)
fstream - f - файл stream - из первого примера понятно.
algorithm - алгоритмы.
То есть большинство библиотек уже под своим именем несут смысловую нагрузку что в них находится.

#include "vcl.h"
файл vcl.h расположен в директории include
Адрес директории include прописан в переменных окружения

Библиотеки бывают разными. Одни в виде файлов с исходным кодом, а другие - бинарники (dll, lib). Все библиотеки должны быть скачаны, компилятор ничего не скачивает. Библиотеки находятся в системных директориях, эти директории спрятаны, их не так просто найти, но они есть. Твои библиотеки (то есть которые не шли вместе с компилятором или средой) могут быть где - угодно, главное - чтобы ты указал путь верный. в библиотеках написана реализация чего - либо, например в iostream'е cout и cin для вывода и ввода. А так тебе бы самому пришлось бы писать функции ввода и вывода.