Является группой множество ненулевых комплексных чисел с модулем, не превышающие фиксированное числоR,относительно умнож?

Нет, не является.
Простой пример. Допустим, рассматриваются все комплексные числа с модулем меньше 3. Берем 2 числа равные 2. Перемножаем их, 2х2=4. Получаем число по модулю больше 3.