Сформировать вектор, каждый элемент которой представляет собой произведение элементов столбцов матрицы

ну так чего ж тут сложного. берешь два цикла. первый перебирает строки, а внутренний - столбцы. добавляешь новый одномерный массив с размерностью = количество строк в исходной матрице. инициализируешь его единичками. Во внутреннем цикле ячейке дополнительного массива с индексом = текущий индекс строки, присваиваешь его же, но умноженного на текущий элемент исходной матрици. ну это выглядит как - дополнительный массив [текущий индекс строки] *=исходная матрица [индекс строки] [индекс столбца] и все дела.