Почему когда умножаешь 2 вектора в плоскости, произведение начинает торчать вверх?

Потому что это соответствует определению векторного произведения векторов. В определении сказано, что векторное произведение перпендикулярно плоскости данных векторов. Но оно может "торчать" не только вверх, но и вниз, если кратчайший поворот от первого вектора ко второму сверху виден совершающимся против часовой стрелки, а также вообще в любую сторону в зависимости от того, как расположена плоскость в пространстве. В этом его один из геометрических смыслов - он показывает ориентацию плоскости, поэтому определение векторного произведения именно такое. Умея вычислять векторное произведение двух векторов, можно составить уравнение плоскости, в которой два этих вектора лежат, зная лишь дополнительно всего одну точку, через которую эта плоскость проходит (например, общее начало двух этих векторов, если они исходят из одной точки), а также различные следствия из этого, например, уравнение плоскости, проходящей через три точки.

Кроме того, векторное произведение "широко используется во многих технических и физических приложениях. Например, момент импульса и сила Лоренца математически записываются в виде векторного произведения." (материал из Википедии).
Вместо того, чтобы словесно описывать модуль и направление этих физических величин, можно просто и более коротко сказать, что они равны соответствующим векторным произведениям (именно в его общепринятом определении). Известное правило буравчика представляет собой не что иное, как переиначенное определение направления векторного произведения.

Вектор показывает, какой стороной к тебе повёрнута эта плоскость

Для системы координат