По какой ветке лучше качать мага в вов 3.3.5а

Пвп или пве - это чисто ваш выбор. Пвп - сражения с игроками. Пве - выпиливание боссов группами. И там и там требуются руки: ) Здесь уж сами смотрите, что больше привлекает - в вов пвп и пве находятся примерно на одном уровне, и одинаково интересны. А можно и совмещать - существует "двойная специализация" (стоит 1000 золотых) , позволяющая иметь две ветки талантов и переключаться между ними.
Что касается ветки для мага (не лучший выбор для новичка, имхо) - то для пвп качают фрост. Так же фрост подойдет и для прокачки (но если вы будете играть не на х1, разница будет несущественна) , потом при желании ветку можно будет сменить. Для пве лучше аркан (тайная магия) , он менее придирчив к экипировке. При наборе приличного шмота (на 80 уровне) можно будет либо остаться в аркане, либо сменить спек на файр.

Также (чисто имхо) советую не играть поначалу на х1 - лучше выбрать рейты чуть повыше, чтобы иметь возможность быстрее ознакомиться с выбранным классом (а вдруг не понравится?) . Игра на 80 уровне не сильно различается - на высоких рейтах просто тратится меньше времени на прокачку персонажа (а также профессий и прочего) , а в остальном все то же самое.