Дайте намек . Стереометрия

Википедия, векторное произведение:
Существует также аналитический способ определения тройки векторов. Для этого надо составить матрицу, первой строкой которой будут координаты первого вектора, второй строкой координаты второго вектора и третьей строкой координаты третьего вектора. Затем в зависимости от значения определителя можно сделать следующие выводы:
Если определитель строго положителен, то тройка векторов правая.
Если определитель строго отрицателен, то тройка векторов левая.
Если определитель равен нулю, то векторы компланарны и, следовательно, линейно зависимы.

прогуглить условия компанарности.

Намёк? Да пожалуйста. Определитель, составленный из 3 векторов (смешанное произведение) равен нулю тогда и только тогда когда они компланарны.

Ну вот в уме проще всего это сделать. По первым и третьим координатам отлично видно, как p должен через n и m выражаться.
Это легко, но не универсально. Мало ли, вдруг бы n и m были коллинеарны? Тогда они лежали бы в одной плоскости с любым третьим вектором, но не факт, что третий вектор можно было бы выразить через n и m.

А системы линейных уравнений изучали? Если да, то воспользовавшись тем, что вектора линейно зависимы можно составить систему из 3 линейных уравнений ( она будет с параметром y ) следующим образом :
выписываем условие линейно зависимости векторов ( т. е. их линейная комбинация равна нулю ) .

будем иметь в левой части : линейную комбинацию векторов, которую преобразовываете в один вектор ( посмотрите как это делается, ибо это основные св-ва векторного пространства ) .

в правой части : нулевой вектор .

т. к. вектора равны, то их соответствующие координаты равны . вот вам 3 линейных уравнения .

ну а теперь решайте систему линейных уравнений с тремя неизвестными и одним параметром (y) . это делается с помощью, например, метода Гаусса =)