Может ли индивидуальный предприниматель открыть охранное агентство или должно быть ООО?

Только ООО!
Для получения лицензии на охранную деятельность необходимы следующие документы: Лицензия на охранную деятельность, охранная лицензия
Выписка из ЕГРПОУ;
Копия справки статистки (нотариально заверенная) ;
Копия Устава (нотариально заверенная) ;
Сведения об офисных помещениях (свидетельство о праве собственности, договор аренды) ;
Справки об отсутствии непогашенной судимости учредителей, директора и ответственного за направление охранной деятельности;
Копия документа об образовании лица, которое будет возглавлять направление охранной деятельности (нотариально заверенная) ;
Копия трудовой книжки лица, которое будет возглавлять направление охранной деятельности;
Копия послужного списка лица, которое будет возглавлять направление охранной деятельности;
Заключение заведения здравоохранения, справка психиатра и нарколога, что подтверждают возможность руководителя субъекта хозяйственной деятельности и его персонала исполнять обязанности по охране имущества или граждан.

Среди ряда требований можно выделить такие как:
отсутствие среди учредителей и персонала предприятия лиц, которые имеют не снятую или не погашенную в установленном порядке судимость за совершение преднамеренных преступлений или таких, которые по приговору суда лишены права заниматься этим видом деятельности.
в штат субъекта охранной деятельности, его филиала, другого отделенного подразделения должно (должны) входить лицо (лица) , в должностные обязанности которого (которых) входит организация и проведение мероприятий по охране, контроль за выполнением персоналом охраны возложенных на них обязанностей. Указанное лицо должно отвечать одному из таких условий:
иметь высшее образование и стаж работы не менее трех лет на должностях офицерского состава в подразделениях ведомственной военизированной охраны, охранных, оперативных и следственных подразделений органов внутренних дел, Службы безопасности Украины или стажа не менее трех лет на командных должностях строевых частей и учебных заведений Вооруженных Сил, на должностях начальственного состава правоохранительных органов, военных формирований;
иметь высшее образование и стаж работы на руководящих должностях (директора, заместителя директора, руководителя филиала, другого отдельного подразделения) субъекта охранной деятельности не менее трех лет или стажа не менее трех лет на должностях, ответственных за направление охраны;
высшее юридическое образование и опыт работы по специальности не менее трех лет;
высшее образование по специальности "Управление финансово-экономической безопасностью" и опыт работы по специальности не менее трех лет.
наличие у субъектов хозяйственной деятельности, которые будут оказывать услуги, технических средств охраны, которые сертифицированы в соответствии с действующим законодательством

Следует помнить, что не привлекаются к охранной деятельности граждане, которые:
не достигли совершеннолетия;
по состоянию здоровья и физического развития в соответствии с выводом заведения здравоохранения не могут исполнять обязанности по охране имущества или граждан;
находятся на учете в органах здравоохранения по поводу психической болезни, алкоголизма или наркомании;
признаны судом недееспособными или ограниченно дееспособными;
имеют непогашенную или неснятую судимость за преднамеренные преступления;
которым в судебном порядке запрещено заниматься охранной деятельностью или работой, связанной с материальной ответственностью;
не зарегистрированы по месту жительства в установленном действующим законодательством порядке;
уклоняются от призыва на срочную воинскую службу, военного учета и специальных собраний.

"Для получения лицензии на охранную деятельность необходимы следующие документы: Лицензия на охранную деятельность, охранная лицензия "...
замкнутый круг.. .
а вот про УК в соответствующем размере не написали...

должно быть ООО