подскажите почему при использование автоклава ( самодельного ) крышки на банках остаются вздутыми

Вы кипятите при нормальном давлении. вот и выпирает изнутри - крышка деформируется. (может и взорваться)
В заводских условия автоклавируют при высоком давлении. Потому и не выдавливает крышку.