3D моделирование в Blender.

Это хороший вопрос и интересная тема. В отношении нодов можно выделить тех 1) кто использует только готовые чужие схемы, 2) кто может внести в чужую в схему изменения, 3) кто может собрать схему в редакторе нодов с нуля и тех 4) кто придумывает ноды и реализуют их в сборке Blender ...
Насколько понимаю то сейчас у тебя стоит задача перейти из пункта 2 в пункт 3?! Если да, то в отношении Vector нужно знать как минимум основы векторной алгебры - сложение, вычитание, мсштабирование, векторное и скалярное умножения.
Но, опят же, для самоучек важно чтобы эти знания были понятными и визуально ощутимыми, поэтому предлагаю в экспериментах в нодовом редакторе попробовать перенаправлять векторные переменные в цвет (то есть Vector конектить с Color или Image) и смотреть как векторные переменные в цвете отображаются на кубе или плоскости.
Второе что нужно знать - это источники, из которых можно получить векторы - поверхность (геометрия), глобальные координаты, координаты UV развертки ...
Исходя из этого можно создавать эффекты - например зависимость цвета от высоты объекта и прочее.
Использование OSL в Blender - это отдельная тема, но там можно делать очень крутые и эффективные вычисления.
И еще хотелось бы упомянуть, что источником знаний о работе узлов может стать исходный код Blender, который находится в свободном доступе, и следовательно, при наличии навыков программирования можно посмотреть реализацию кода ноды и понять механизм взаимодействия с ней.

Я думаю, что тебе стоит посмотреть целый курс по V-Ray от Grant Warwick. Скачать его можно с рутрекера уже переведенным.

Несмотря на то, что показано все в максе в визуализаторе V-Ray, абсолютно применима к любому древу шейдеров. Принцип почти везде одинаковый.

Вот тебе еще сайт, где можно выбрать материал и на базе этого создавать шейдер. Как раз из того курса взят.
https://refractiveindex.info/