Три сосуда вместе имеют вместимость, равную 80л. если первый сосуд наполнить водой и затем перелить ее в два доугих сосуда, то либо второй сосуд наполниться доверху, а третий на 3/5, либо третий сосуд наполниться доверху, а второй - на 1/2.

Тут можно составить три уравнения, и решать их вместе (по сути дела, решаем систему из трёх уравнений).

Обозначим вместимость сосудов (первого, второго и третьего) буквами a, b, c.  Это три неизвестных в наших уравнениях.

Далее, все три сосуда вместе- это 80литров. Получается такое уравнение:
a + b + c = 80

Составим второе уравнение, на основе того, что вместимость первого сосуда равна второму плюс три пятых от третьего:
a = b + 3/5 * c

Третье уравнение составим, используя то, что вместимость первого сосуда равна третьему плюс половина второго:
a = 1/2 * b + c

Правые части второго и третьего уравнения равны переменной а, значит и равны друг другу. Приравняем их, и выразим b:
b + 3/5 * c = 1/2 * b + c
b - 1/2 * b = c - 3/5 * c
1/2 * b = 2/5 * c
b = 4/5 * c        (домножили на два)

Подставим в первое уравнение вместо a  выражение из третьего уравнения:
(1/2 * b + c) + b + c = 80
3/2 * b + 2c = 80

Теперь, подставим сюда вместо b  выражение, найденное из второго и третьего уравнения:
3/2 * (4/5 * c) + 2c = 80
12/10 * c + 2c = 80
12c + 20c = 800         (домножили на 10)
32с = 800
с = 800 / 32 = 25 (литров)

Теперь находим b:
b = 4/5 * c = 4/5 * 25 = 20 (литров)

Наконец, находим a:
a = 1/2 * b + c = 1/2 * 20 + 25 = 10 + 25 = 35 (литров)

ответ:  первый сосуд- 35 литров,  второй сосуд- 20 литров,  третий сосуд- 25 литров.