Предположим, что Митя не лжет. Тогда у него или красный или зеленый мяч. Если у него красный мяч, то он должен был соврать, однако его фраза "У меня мяч не желтый и не синий" полностью согласуется с этой ситуацией. Значит, у него зеленый мяч.
Предположим, что Петя не лжет. Тогда у него или красный или желтый мяч. Рассуждая аналогично, получаем, что если у него красный мяч, то он должен был соврать, однако его фраза "У меня мяч не синий" является истинной. Значит, у него желтый мяч.
Предположим, что Коля не лжет. Тогда у него или красный или синий мяч. Опять же, если у него красный мяч, то он должен был соврать, но его фраза "У меня мяч не зеленый" является истинной. Значит, у него синий мяч.
Оставшийся красный мяч находится к Васи, который и соврал, сказав фразу "У меня мяч не красный".
Понятно, что при а1, равном нулю, значение суммы (а2 + а3) может быть больше, нежели при а1 > 0. Поэтому будем считать, что
а2 + а3 + а4 + а5 = 10, откуда
а4 + а5 = 10 - (а2 + а3)
При этом, исходя из условий,
а2 + а3 ≤ а4 + а5 или
а2 + а3 ≤ 10 - (а2 + а3), из чего
2*(а2 + а3) ≤ 10;
а2 + а3 ≤ 5.
Понятно, что свой максимум сумма (а2 + а3) достигнет при равенстве ее пяти.
Таким образом, наибольшим возможным значением суммы второго и третьего числа является 5.
Ну и иллюстрация с возможными значениями переменных:
а1 = 0;
а2 = 2,5;
а3 = 2,5;
а4 = 2,5;
а5 = 2,5.
(0 + 2,5 + 2,5 + 2,5 + 2,5) = 10.
0 ≤ 2,5 ≤ 2,5 ≤ 2,5 ≤ 2,5.
Предположим, что Петя не лжет. Тогда у него или красный или желтый мяч. Рассуждая аналогично, получаем, что если у него красный мяч, то он должен был соврать, однако его фраза "У меня мяч не синий" является истинной. Значит, у него желтый мяч.
Предположим, что Коля не лжет. Тогда у него или красный или синий мяч. Опять же, если у него красный мяч, то он должен был соврать, но его фраза "У меня мяч не зеленый" является истинной. Значит, у него синий мяч.
Оставшийся красный мяч находится к Васи, который и соврал, сказав фразу "У меня мяч не красный".
ответ: у Коли синий мяч