Составьте одну из возможных формул n-го члена последовательности по первым пяти ее членам

V=(40-X)(64-X)X - функция.
найти максимум, х∈(0, 40).
найдем производную от V=(40-X)(64-X)X=х³-104х²+2560х
она равна 3х²-208х+2560
найдем стационарные точки , приравняв производную к 0 , и решив кв. ур-ние             3х²-208х+2560=0
1)  х=(104+√(104²-3·64·40))/3=(104+√((8·13)²-3·64·40)))/3=
=(104+√(8²(13²-3·40)))/3=(104+8√(13²-3·40))/3=(104+8√(169-120))/3=
=(104+8·7)/3=160/3

2) х=(104-√(104²-3·64·40))/3=(104-56)/3=16
ОСТАЛОСЬ по достаточному условию экстремума убедиться, что  х=16 - точка максимума, проверяем знаки производной при переходе через эту точку, решаем неравенство 3х²-208х+2560>0, или простыми вычислениями для значений х из соответствующих промежутков.)

вот как-то так...-))

5x² + y² - 4xy + 4x + 4 = 0
(4x² - 4xy + y²) + (x² +4x + 4) =0
(2x - y)² +(x + 2)² =0
(2x - y)² = -(x + 2)²

Заметим, что -(x + 2)² всегда имеет отрицательное значение, но (2x - y)² всегда больше или равен 0. Значит условие выполняется только тогда, когда левая и правая части равны 0.

Получим систему уравнений:

1)-(x + 2)² =0
2)(2x - y)² = 0

1. -(x + 2)² =0
(x + 2)(x + 2) = 0 откуда видно, что x = -2
2. (2x - y)² = 0
Подставляем наш x и получаем
(-4 - y)² = 0
(-4 - y)(-4 - y) = 0
А значит y = -4

Тогда ответ: x=-2, y=-4