Каяться это сожалеть о уже сделанном, а не делать выводы? Есть ли смысл сожалеть о прошедшем?

Иногда нужно подумать.

Жалеть нельзя ни о чем, но принимать прошлое как учебу.

Вы правы, проступки требуют исправления, а не сожаления в глазах сочувствующих

В какой то мере это нормально, это говорит, что у вас есть совесть. Чрезмерно об этом беспокоиться нет смысла - что сделано, то сделано. Но нужно учиться делать выводы.

Владимир Ильич, к вам ходоки!
— Да, а что они принесли, батенька?
— Свежей рыбки.
— А шли они сколько?
— Две недели.
— Детям, все детям.

Это и сожалеть и делать выводы и делать постановление, чтобы не повторить ошибку, например, избегать обстоятельств для совершения подобного (это всё содержится в учении церкви) . Но и у сожаления есть разные причины: сожалеть по одним почти всегда гарантирует повторение ошибки (значит выводы неправильные) , а сожалеть по другим - залог того, что ошибка не повторится.
Но за этим всем верующий народ часто игнорирует смысл слов Христа. Ничего человек от себя не может контролировать и зарекаться, что не повторится (пример, ап. Пётр) . Но содействовать с Богом в другом, чтобы и эти ошибки не повторились.

Чувство вины кормит церковников.

Каяться и сожалеть - это две большие разницы. Понять что поступок был неправильным, причинил кому-то боль и попросить за это прощение - это замечательно. Но страдать, от того, что поступил плохо, при этом боясь признать это вслух это фактически проявление гордыни. Как сказал Холмс в сериале "Элементарно": я хорошо разбираюсь в ядах, чувство вины - это самый опасный. Постоянное чувство вины - это верный путь к депрессиям и неврозам. Если такое чувство возникает, лучше провести над сбой неприятную работу и докопаться до его источника, найти то событие которое вызывает дискомфорт, если при этом кто-то пострадал, то попросить у него прощения: Очищение кармы http://fs99.ru/article/sposoby-uluchsheniya-karmy-v-povsednevnoy-zhizni.html . Если это чувство вины вызвано завышенными требованиями к себе (а такое бывает часто) , то постараться принять себя, свое несовершенство, понять, что человек это не бог, и он имеет право на ошибку. Главное сделать вывод и больше не повторять, то что было сделано неправильно.