Можно ли увеличить старую фотографию?

Да, если источник - пленка (лучше) или бумага (хуже, но можно) . Если источник - "цифра" - нельзя.

Можно..

физику никто не отменял. Можно увеличить с потерей качества. Но с помощью различного софта эту потерю можно попытаться свести к минимуму.

чем больше увеличение, то тем хуже качество будет

Да действительно, в качестве проиграете.

Если это бумажная фотография, - сканировать её с максимальным оптическим разрешением сканера (1200 - 2400) dpi, потом в графическом редакторе уменьшать (увеличивать) размеры до нужных и снижать разрешение для печати до 300 dpi. Если это плёнка, - сканировать слайд-сканером с разрешением не менее 4800 dpi.

было фото 9х 12

если это студийная фотография, которая печаталась контактным способом, то там разрешения хватит за глаза для увеличения.
если это отпечаток с 35 фотопленки да еще и УПА - тосложновато.

Можно, но качество не гарантировано.