Как Линукс знает откуда надо устанавливать?

Из репозиториев. ..Чаще всего данные в репозитории хранятся в виде файлов, доступных для дальнейшего распространения по сети. (Wiki)

К примеру Linux Mint, в папке /etc/apt/, /etc/apt/sources.list.d и. т. п., находятся файлы sources.list ***.list в них прописаны адреса репозиториев.
Пакетный менеджер apt по команде apt-get update находит и создает кэш (папка /var/cache/apt) всех доступных пакетов по адресам репозиториев прописанных в sources файлах, команда apt-get install обращаясь к созданному кэш выгружает и устанавливает заданный пакет c удаленного репозитория или устанавливает пакет из локального репозитория.

Зеркало реопзитория Yandex для многих дистрибутивов: https://mirror.yandex.ru/

скачивает из репозитория (сайта) авторов дистрибутива, т. к. перед включением в репозиторий они проверяют зависимости и добавляют все необходимые компоненты, часто еще и компилируют под свой дистрибутив

из прописанных репозиториев

В настройках прописаны репозитарии

Вот ты пишешь в терминале команду, а система её исполняет: sudo (это значит, что ты пользователь с правами админа и можешь устанавливать и удалять проги) apt-get (ты запускаешь программу Aptitude,которая управляет установкой и удалением пакетов из репозиториев, адреса которых уже прописаны в системе) install (имя) ИФСЁ.Аптитуда находит нужный пакет в репе и устанавливает.

Операционную систему для начала назовите. Линуксов от здесь до горизонта. В том числе сотни только для ПК.

Для любой нормальной операционной системы в конфигурационном файле прописан репозиторий. Оттуда всё и скачивается.

Где и как указан адрес репозитория зависит от конкретной операционной системы. Вы свою не указали.

Почитайте о репозиториях в Ubuntu https://help.ubuntu.ru/wiki/репозиторий
А вообще, информация о том, откуда качать, в Ubuntu находится в файле /etc/apt/sources.list и каталоге /etc/apt/sources.list.d/

По простому происходит это так - ты даешь машине команду на установку программы - машина соединяется с базой/проверенным хранилищем программ, и при наличии нужной - скачивает ее и после устанавливает. Все, это не винда, тут вот так ))...

Есть репозиторий где прописано откуда брать пакет ...но линукс разнообразен ...гдето готовый deb или rpm пакеты а гдето бинарники или встроенный компилятор как Генту.... но смысл везде один ...взять пакет из репазитория

ну это как в виндузе, ты вводишь некоторые координаты будущей программы, а потом система сама выбирает папу установки.
Например устанавливаешь яндыкс- и путь установки сам преобразуется ну например в
C:/Programm Files x86/Yandex

Нет не надо скачивать, там в конфигах прописанны куча серверов (дубликатов) с фалами програам, еще можно скачивать и устанавливать но это долго, еще можно скачивать с гитхаб программы под линь компилировать их и устанавливать в линуксе