Найти наименьшее и наибольшее значения функции в замкнутой области

z = x^2 + 2 x y - 4 x + 8 y
Сначала посмотрим, что там внутри области. Необходимые условия экстремума:
∂z/∂x = 0, ∂z/∂y = 0;
Подставим сюда вашу z, получим систему уранений:
2 x + 2 y - 4 = 0
2 x + 8 = 0
Система имеет единственное решение:
x = - 4, y = 6
Эта точка лежит вне вашей области. Значит внутри вашей области экстремумов нет. Это означает, что максимум функции и минимум лежат на границе области. Рассматриваем гранцы:
1) x = 0:
z = 8 y
min(z) = 0, (при y = 0)
max(z) = 16, (при y = 2)
2) y = 2:
z = x^2 + 16
min(z) = 16, (при x = 0)
max(z) = 17, (при x = 1)
3) x = 1:
z = 10 y - 3
min(z) = - 3, (при y = 0)
max(z) = 17, (при y = 2)
4) y = 0:
z = (x - 2)^2 - 4
min(z) = -3, (при x = 1)
max(z) = 0, (при x = 0)
Получаем ответ:
min(z) = z(1, 0) = - 3,
max(z) = z(1, 2) = 17;

Тут лучше сразу на PC всё посчитать, (например, методом случайного блуждания) чем аналитически решать задачу на оптимум с нелинейной целевой функцией при четырёх линейных ограничениях, представляющих из себя неравенства.
Min: (1;0) → -3
Max: (1;2) → 17
А вот и код на всякий случай:

 #include  

#include  

#include  

using namespace std; int main() 

{ double r = RAND_MAX, mi = 1e303, 

ma = - mi, x, xi, xa, y, yi, ya, u, i, n; 

while (true) { cout > n;

for (i = 0; i < n; i++)

{ x = rand() / r; y = 2. * rand() / r; 

u = x * x + 2. * x * y - 4. * x + 8. * y; 

if (u > ma) { ma = u; xa = x; ya = y; } 

if (u < mi) { mi = u; xi = x; yi = y; } } 

cout