Что такое линейный оператор? Поясните популярно, насколько это возможно.

Популярно - должно быть понятно из названия: раз это оператор, то он делает какую-то операцию с тем, что ему подсунут. Скажем, оператор "набла" (оператор Гамильтона) вычисляет градиент некоторой функции несокльких переменных (это обобщение производной на случай нескольких переменных) . И его можно представить в виде i*d/dx + j*d/dy + k*d/dz (производные тут частные) . То есть применение этого оператора к некоторой функции F(x, y, z) даёт нам результат операции - градиент функции в этой точке.
Аналогично можно описать многие другие операторы - скажем, оператор поворота осей координат (вот это действительно будет матрицей) , или оператор Лапласа (скалярное произведение оператора Гамильтона самого на себя, то есть даёт "вторую производную" от функции нескольких переменных) , и так далее.
А линейность оператора означает то же, что и в арифметике: что результат применения оператора к линейной комбинации нескольких функций будет линейной комбинацией результатов применения оператора к каждой отдельной функции. Т. е. H(aF + bG) = aH(f) + bH(G), где Н - оператор, а F, G - некоторые функции. Попросту - что оператор от суммы равен сумме результатов операторов от каждой функции, и что постоянный множитель можно выносить за знак оператора.

Матрица.

Если спросит препод, говорите - матрица, не ошибетесь. А подробности, да в любом справочнике по математике, можно и в википедии посмотреть.

Приблизительно:
Линейным опреатором называется функция f, переводящая точки одного линейного пространства в точки другого, и удовлетворяющая двум условиям:
1). f(x+y)=f(x)+f(y);
2). f(ax)=a*f(x), где а=const.

Линейный оператор — обобщение линейной числовой функции (функции y=kx) на случай более общего множества аргументов и значений.