Какую функцию задает это уравнение (a-x)^2+(b-y)=c^2 ?

Это - квадратичная функция.
Выражение можно преобразовать к виду
b-y = c^2 - (a-x)^2
y = b + c^2 - (x-a)^2 (т. к. (a-x)^2 = (x-a)^2)
График - парабола с вершиной в точке x = a, y = b+c^2. Ветви параболы направлены вниз.