кто такой математик - системный программист? в какой сфере он может работать? и собственно что он делает?

Может работать, например, в сфере проектирования операционных систем и системных компонентов, в т. ч. драйверов устройств. Помимо математики понадобится очень неслабое знание железа.
Т. е. системное программирование - это создание среды для выполнения прикладных программ. Область очень интересная, но не простая. Это не на вижуалвасике кнопки на формы кидать ;)

знаю точно где, в системах криптоззащити, криптоанализа, драйвера - вот здесь точно, в другых областях граница достаточно размитая

Для использования ЭВМ при решении прикладных задач, прежде всего прикладная задача должна быть "переведена" на формальный математический язык, т. е. для реального объекта, процесса или системы должна быть построена его математическая модель.
Моделирование широко используются в различных сферах человеческой деятельности, особенно в сферах проектирования и управления, где особенными являются процессы принятия эффективных решений на основе получаемой информации.
Методология математического моделирования бурно развивается, охватывая все новые сферы - от разработки технических систем и управления ими до анализа сложнейших экономических и социальных процессов.
Математика, основные два ее направления (теоретическая и прикладная) , а также междисциплинарная, мировоззренческая, воспитательная, культурная и эстетическая роли математики в обществе и познании.

Исторически составные части математики - арифметика и геометрия - выросли, как известно, из нужд практики, из необходимости индуктивного решения различных практических задач земледелия, мореплавания, астрономии, сбора налогов, возврата долгов, наблюдения за небом, распределения урожая и т. п.
То-есть круг работы очень широк и очень интересен! по данной специальности.