Высшая математика

Я так понимаю, координаты векторов заданы. Пусть, к примеру, будут а=(а1, а2, а3), в=(в1, в2, в3), с=(с1, с2, с3).

б) Векторное произведение - это определитель, первый столбец которого - координаты первого вектора, второй столбец - координаты второго вектора, третий - единичные векторы и, жи, ка. Раскрывают его обычно по третьему столбцу.
В результате получится вектор с координатами ( 27(в3)(с2)-27(в2)(с3), 27(в1)(с3)-27(в3)(с1), 27(в2)(с1)-27(в1)(с2) ) (это только для этого случая, не в общем виде)
Чтобы вычислить длину (читай - модуль) этого вектора, нужно все координаты возвести в квадрат, сложить и извлечь из всего этого квадратный корень.

в) Скалярное произведение - перемножить соответствующие координаты векторов и результат сложить.
3а=( 3(а1), 3(а2), 3(а3) ), -5с=( -5(с1), -5(с2), -5(с3) )
скалярное произведение=3(а1)(-5)(с1)+3(а2)(-5)(с2)+3(а3)(-5)(с3)

г) Коллинеарны если их координаты равны или пропорциональны (т. е. (а1)=к (в1), (а2)=к (в2), (а3)=к (с3), к - константа)
Ортогональны если их скалярное произведение равно нулю.

д) Компланарны если их смешанное произведение равно нулю (смешанное произведение: находишь векторное произведение двух первых векторов, затем скалярное произведение полученного вектора и третьего) .

Модуль векторного произведения вычисляется как определитель, в котором первая строчка - три единицы, вторая и третья - координаты (компоненты) векторов. То есть попросту коэффициенты при i, j, k.
Скалярное произведение - это сумма попарных произведений координат векторов.
Признак коллинеарности - равенство нулю векторного произведения. Признак ортогональности - равенство нулю скадярного произведения.

Определитель, раз уж возникает такая нужда, благоволите сосчитать сами...