Чем же так принципиально фотон отличается от электромагнитной волны ?

Фотон, это квантованная электромагнитная волна. (В математике процедура называется процедурой вторичного квантования, но это не совсем верно, так как это на самом деле первичное квантование.)
Вопрос только в удобстве.
В одних случаях вам для вычислений удобнее иметь дело с фотонами, а в других случаях с электромагнитными волнами.

тем, что он не делится на части

Ну, ёпт, Володя... ты как маленький. Фотон - это маленький блюстящий шарик, а волна - это туды-сюды, туды-сюды, плюх...

по сути "фотон" это просто сектор электромагнитной волны
-

Принципиально? Выполнением соотношения E = h*ню из (исторически) гипотезы Планка для фотона. Частоту спектрометром измеряй.
Вот на другие порции волну не порубаешь - поглощаются и излучаются все равно вот такие, фотоны.

Фотон на нач. уровне в классической электродинамике можно рассматривать как частный случай ЭМ волны - волна с круговой поляризациеий, для которой справедливо сие замечательное соотношение.
Посколько в человека 100 тонн знаний в секунду не успевает влезать, то вот так и начинай рассматривать фотон.
Фейнман круговую поляризацию вообще на летающую тарелку заменил, вроде.

Фотон это квант эл. магнитного излучения, а когда они собираются в несанкционированное сборище, то могут создать волну...

ЭМВ тоже прерывна, но она прерывается много раз на одной волне. Фотон имеет много волн, но порциями.
Фотон не рассеивается и может годами лететь в пространстве, а ЭМВ рассеивается и ослабевает в пространстве.

ЭМ волна прерывна и распространяется порциями - фотонами! Энергия фотона принята равной одному кванту!

У фотона есть энергия и частота.
А у эм волны еще и длина волны.

Наверно также отличается, как капля от морской волны.