Геометрическая прогрессия, как рассуждать?

а) да, может. Пример (на самом деле, единственный — с точностью до обратной перестановки) :
512, 576, 648, 729
(знаменатель прогрессии равен ⁹⁄₈)

б) нет, не может. Предположим, что такая прогрессия существует. Пусть первый член прогрессии равен A, знаменатель q = m/n — рациональное число, причём натуральные числа m и n взаимно просты (дробь несократима) . Для определённости будем считать прогрессию возрастающей, т. е. m>n (в противном случае достаточно записать члены прогрессии в обратном порядке) .

Тогда прогрессия будет выглядеть так:
A, Am/n, Am²/n², Am³/n³, Am⁴/n⁴.
Поскольку числа m и n взаимно просты, а последний член прогрессии является натуральным числом, то A делится нацело на n⁴:
A = an⁴.
Ещё раз запишем все члены прогрессии: an⁴, amn³, am²n², am³n, am⁴.
Итак, нам нужно найти такие натуральные числа a, m, n, чтобы
{ an⁴ ≥ 510,
{ am⁴ ≤ 740,
{ m > n.
Поскольку a≥1, то m⁴ ≤ 740; m≤5 (6⁴ = 1296 — слишком много) . Значит, m/n≥(⁵⁄₄) ⇒ (m/n)⁴ ≥ (⁶²⁵⁄₂₅₆).
Но ⁶²⁵⁄₂₅₆ > ⁷⁴⁄₅₁
(значения можно грубо оценить: в левой стороне неравенства число, большее 2, а в правой — число, меньшее 2).

А (m/n)⁴ ≤ ⁷⁴⁰⁄₅₁₀ = ⁷⁴⁄₅₁. Полученное противоречие доказывает невозможность выполнения условий задачи.

Ключевое слово тут - натуральные. Т. е. числа a, aq, aq^2, aq^3 (и aq^4 для п. б) должны быть натуральными. Понятно, что q натуральным быть не может, т. к. 510*2>740. Дальше пояснять?

1,2,3,4,5... = арифметическая!

У этого термина существуют и другие значения, см. Прогрессия.

Геометри́ческая прогре́ссия — последовательность чисел (членов прогрессии) , в которой каждое последующее число, начиная со второго, получается из предыдущего умножением его на определённое число (знаменатель прогрессии) , где , : [1].

Любой член геометрической прогрессии может быть вычислен по формуле:

Если b1 > 0 и q > 1, прогрессия является возрастающей последовательностью, если 0 < q < 1, — убывающей последовательностью, а при q < 0 — знакопеременной.

Своё название прогрессия получила по своему характеристическому свойству:

то есть каждый член равен среднему геометрическому его соседей.