Могут ли оштрафовать только за видеозапись преступления?

Во-первых, охранники не имеют права никого задерживать. И карманы обыскивать тоже. За превышение должностных полномочий им грозит срок.

Поскольку доказательства получены с нарушением закона, они недопустимы и не могут использоваться в суде. Насчёт того, как себя вести - с самого начала следует попробовать заявить соответствующее ходатайство (о признании доказательств недопустимыми) .

Если есть запись с камеры наблюдения - пусть предъявляют в суде, и доказывают, что на ней именно вы и действительно что-то украли. Бремя доказывания лежит именно на них. Если запись будет признана недостоверной (например, невозможно разглядеть лицо) , а протокол - недопустимым, то доказательств не останется.

Когда вступит в силу судебное постановление (например, о прекращении дела) , если в нём будут подробно расписаны действия охранников (задержание, обыск) , можно писать заявление в прокуратуру и в качестве доказательства приводить судебное решение (факты, установленные вступившим в силу решением суда, считаются доказанными).

по первых, нужно накатать заявление в прокуратуру с требованием расследовать факт задержания вас сотрудниками магазина. они на это право не имеют, ибо не подпадают под действие закона об охранной деятельности. на самом деле за превышение несуществующих полномочий можно схлопотать до 8 лет зоны.
далее, завтра в суде гнуть свою линию и говорить, что ничего не было, что обыск проходил с нарушением законодательства, что сотрудники магазина могли и подложить (эту фразу нужно построить так, чтобы не было оснований обвинить вас в клевете) .
короче, не сдавайтесь!

Заплатиш штраф и всё.