Маргулан купил сто конвертов за три дня точно так же как в один из этих трех дней он получил не менее тридцати четырех конвертов

Похоже, тут опечатка. Должно быть 3cos^2 x.
5sin^2 x + 3*2sin x*cos x - 3cos^2 x = 4sin^2 x + 4cos^2 x
Переносим все налево
sin^2 x + 6sin x*cos x - 7cos^2 x = 0
Делим все на cos^2 x
tg^2 x + 6tg x - 7 = 0
Квадратное уравнение относительно tg x
(tg x - 1)(tg x + 7) = 0
1) tg x = 1; x1 = pi/4 + pi*k
2) tg x = -7; x2 = -arctg(7) + pi*n

Если же опечатки нет, то получается уравнение 4 степени
5sin^2 x + 3*2sin x*cos x - 3(cos 2x)^2 = 4sin^2 x + 4cos^2 x
5sin^2 x + 6sin x*cos x - 3(cos^2 x - sin^2 x)^2 = 4sin^2 x + 4cos^2 x
3(cos^4 x-2sin^2 x*cos^2 x+sin^4 x)-sin^2 x-6sin x*cos x+4cos^2 x = 0
3sin^4 x-sin^2 x+3cos^4 x+4cos^2 x-6sin^2 x*cos^2 x-6sin x*cos x = 0
Как это решать дальше - непонятно. Если разделить на cos^4 x, то
3tg^4 x - tg^2 x/cos^2 x + 3 + 4/cos^2 x - 6tg^2 x - 6tg x/cos^2 x = 0
Что тоже оптимизма не добавляет.

Объяснение:

1.

20x³y²+4x²y=4x²y(5xy+4)

Вынесение общего множителя за скобки

2.

b+(a+5)-c(a+5)=(a+5)(b-c)

Вынесение общего множителя за скобки

3.

a^4-b^8=  a^4-(b²)^4 =(a²)²-(b^4)² =  (a²-b^4)(a²+b^4)=(a-b²)(a+b²)(a²+b^4)

Формула сокращенного умножения

4.

2bx-3ay-6by+ax=         2bx+ax -3ay-6by=   x(2b+a)-3y(a+2b) =  x(a+2b)(x-3y)

группировки

5.

a²+ab-5a-5b=  a²-5a+ab-5b=   a(a-5)+b(a-5)  =   (a-5)(a+b)

группировки

6.

27b³+a^6=  (3b)³  +  (a²)³=(3b+a²)(3b²-3ba²+a^4)

Формула сокращенного умножения