математический анализ

Это неудачная буква R, сильно утратившая признаки готики)) ) .
Обозначает множество рациональных чисел, встречалась в старой математической литературе, пока литература была французской.
С другой стороны, похоже на букву Q, означающую множество рациональных чисел, по англоязычной литературе. Перечеркнутость должна означать множество чисел, не содержащее рациональных чисел, то есть множество трансцендентных чисел.
Надеюсь, что смысл будет вам ясен из контекста.
Математическая символика еще не устоялась, поэтому символом можно обозначать разные вещи. Если бы было указание на год издания, то археологи могли бы сказать точнее, что это. См. таблицу обозначений на первых или последних страницах.