как можно взломат архив с паролем

Через специализированные программы взлома архивов. Для каждого типа архива (зип, рар, ..) в интернете полно программ. Принцип действия их прост - либо перебор, либо атака по словарю (т. е. пробуются список самых распространенных паролей) . Если длина пароля неизвестна, то это значительно усложняет задачу, ведь сначана надо перебрать все пароли меньшей длинны. Если также неизвестно из каких символов он состоит, то становится еще более грустно, ведь необходимо перебирать всевозожные символы (латинские (маленькие и большие) , национальные (маленькие и большие) , цифры, специальные знаки) . Увеличение пароля на один символ приводит к эспоненциальному увеличению времени на его перебор. Поэтому например 6-ти символьный пароль, если нам изначально не известно, что он из 6-ти символов состоит и с учетом перебора всевозможных символов будет найден за несколько дней, а уже 8 символьный пароль за несолько сотен лет :)

никак

Никак, это дохлый номер.
Кстати, внутри архива скорее всего мусор.

брутфорсом.

если не знаешь длину пароля, то лучше и не пытайся. Обычно на архивы выкладываемые на всяких разных сайтах пароль прост для запоминания, но длинный. Взломать можно либо на "ферме" (сомневаюсь что у вас есть доступ к таким ресурсам) , либо на домашнем ПК за десяток-другой лет.
конечно для 7-8 символов может и есть смысл, но всеравно долго.