Если удалить входящий с почты. Останутся ли следы его наличия. и может ли отправитель доказать факт получения письма?

Это же на сервере а в вашем компьютере, конечно может .

Ну не факт, что его вы прочли или даже глядели,
мало ли че.
Вопрос просто зачем это надо?