Составьте уравнение окружности, вписанной в треугольник, стороны которого лежат на прямых, заданных уравнением

Расстояния от центра окружности (x0, y0) до все сторон одинаковы. Составь соответствующие уравнения:
x0 = -y0 (для данных условий)
x0 = (X-x0)^2+(Y-y0)^2, где X и Y находим из уравнения третьей стороны
Х = (3y-21)/4
Y = (4x-21)/3
Решаешь систему, находишь координаты центра. Составляешь уравнение.