Как в делфи сделать чтоб при делении переменных и получении иррационального числа было 1000 знаков после запятой?

Воспользоваться GNU Multiple Precision Arithmetic Library.
Враппер тут.

Только вот я тебя разочарую: при делении двух чисел ограниченной точности иррациональное число получить невозможно - только рациональное. Матан не обманешь.