Подскажите программу (калькулятор), который может проводить операции с сотнями тысяч знаков

Не бывает. Для этого нужен не "калькулятор", а библиотека, поддерживающая произвольную точность представления вещественных чисел (arbitrary precision floating-point arithmetic). Собственно программу Вы будете писать сами, хотя в простых случаях вроде Вашего она обычно умещается в несколько строк.

Для примера посморите на mpmath:

http://mpmath.org/

Она для Питона, а на каком языке будете писать Вы -- мне из моей деревни не видно. Навскидку, однако, Питон для таких дел более чем подходит...

Если ваш интерес пропадёт за неделю, то результат вам и не нужен. Неделя вам понадобится для овладения питоном или джавой. При этих языках есть библиотеки для вычислений с неограниченной точностью.

Уже написали по поводу Питона. Если речь идет о целочисленных выражениях, то вводите в командной строке выражение и результат готов. Когда речь идет об иррациональных числах, то где-то нужно задавать число знаков после запятой. Нужно понимать, что вычислениях с плавающей точкой, могут возникать ошибки округления. Допустим, получите вы сто тысяч знаков, но начиная с пятисотого это уже не цифры, а мусор округления.

Потом нужно учить либо Питон, чтобы уметь писать самому, либо Mathematica или MATLAB, но это уже платные программы. Тем более, что сама по себе задача странная: хочу посмотреть какие там цифры в представлении числа e. Те люди, которые получают много цифр, получают их с каким-то смыслом и целью.

Вряд ли это нужно. Самый большой калькулятор сегодня имеет 36 регистров. За ним надо ехать в Токио. Программ и вовсе не найти.

Для расчетов с выс. точностью помимо библиотек для (компилируемых) яз. выс. уровня можно использовать и, например, (интерпретируемый (=скриптовый)) яз. Rexx. В нем точность задается в неограниченных пределах.
Rexx существует в разных версиях. Только в некоторых есть (широкий) набор продвинутых математич. ф-ций, и только с ограниченной точностью.
Я для своих нужд написал Rexx-библиотечку с корнями, экспонентой, лог., прямой и обр. тригонометрией.