Образуют ли торф Кукушкин лен и Сфагнум?

Да, оба образуют.
Но у них разная роль в процессе заболачивания.

Мох Кукушкин лён называется по-научному Политрихум (это род мхов, там несколько видов, но они в общем похожи) - он относится к группе Долгомошников.
Они могут быть просто лесными, а не болотными мхами - конечно, на достаточно влажных, но не именно заболоченных участках леса.
Когда же начинается направленное переувлажнение территории (по разным причинам) , группа мхов-долгомошников начинает постепенно преобладать над другими в лесу. Это первая стадия заболачивания.

Мхи постоянно нарастают вверх, а нижние части их отмирают - из них и будет формироваться торф.
Когда слой достигает толщины, что нижние живые части стеблей мха не достают до почвы, а находятся в субстрате из отмерших частей того же мха - условия заболачивания ещё усиливаются.
Тогда приходит очередь поселения сфагнума. Это тоже целый род мхов, причём очень большой. Есть виды более-менее лесные (хотя и здесь должно быть достаточное увлажнение, пусть и не застойное) , а есть и типично болотные, которые могут (за длительное время, конечно, но всё же) формировать действительно многометровые толщи торфа.
С их развитием заболачивание доходит до такого масштаба, что лес перестаёт возобновляться, а старые деревья потихоньку выпадают - участок превращается в болото.

(иногда, кстати, бывает, что уровень грунтовых вод медленно-медленно, но колеблется в обе стороны, и тогда, если он начнёт понижаться, болото будет обсыхать и может постепенно заново зарасти лесом. )

Таким образом, торф из кукушкиного льна (политрихума) - это нижний слой и небольшой толщины, а выше него будет сфагновый - он может быть гораздо более мощным.

Вообще, виды торфа так и называются - по растениям, из неразложившихся остатков которых они образовались.
Поэтому бывают сфагновые, гипновые (это тоже семейство мхов) торфа, а также различные виды торфа, образовавшиеся из других растений.
Например, среди важных торфообразователей - осоки, пушицы, вахта (трифоль) , шейхцерия, и вересковые кустарнички - например, багульник.
Они также могут образовывать свои толщи торфа.