В чем разница языков высокого уровня от языков среднего и низкого уровня? И вообще как понимать значение слова "уровень"

Для использования языка низкого уровня нужно знать команды процессора, которые не так просты как арифметические и логические операторы, используемые в языках высокого уровня. Таким образом, языки нижнего уровня ориентированы на работу с процессором или отдельными микросхемами.

Деление на средний и высокий уровень не так строго. В идеале, в языке высшего уровне отсутствуют какие-либо средства для работы железом компьютера. Например, язык JavaScript используемый в программировании Web-страниц можно считать языком высокого уровня. Программы, написанные на JavaScript будут работать и на компьютере и на телефоне.

Средний уровень сочетает в себе обе стороны. К таким языками можно отнести C. В общем случае, программа не зависит от модели процессора, но когда возникает необходимость, то программу можно улучшить (оптимизировать для работы на конкретном типе компьютера) .

Низкий уровень - в терминах, близких к уровню машинных операций - биты, байты и т. п.
Высокий - в терминах, близких к терминологии предметной (прикладной) области, например, для математики команда может звучать как "перебрать значения от 1 до 1000" или "найти обратную матрицу".

Компьютер, в основе своей работает на последовательности простых машинных кодов. Языки программирования, оперирующие непосредственно этими кодами, либо набором команд, приближенных к ним (ассемблер, к примеру) - это языки низкого уровня.
Языки же, оперирующие набором команд близких к обычному человеческому языку и формальной логике относятся к языкам высокого уровня.
Среднийуровень выделяют нечасто. Под этим термином понимают язык высокого уровня, но требующий в определеной степени знания машинных кодов и ассемблера. Это С (но не С #).

Дополню:
Чем ниже уровень языка, тем труднее на нем программировать.