2sin^2x+3sinxcosx+7cos^2x=6*1
2sin^2x+3sinxcosx+7cos^2x=6*(Sin^2 x + Cos^2 x) 
2sin^2x+3sinxcosx+7cos^2x=6Sin^2x + 6Sin^2x
-4Sin^2x +3SunxCosx + Cos^2x= 0 | : Cos^2x
-4tg^2x +3tgx +1 = 0
tgx = z
-4z^2 +3z +1 = 0
D = 25
z₁ = -1/4;     z₂ = 1
a) tgx = -1/4                                   б) tgx = 1
x = -arctg1/4 + πk , k ∈Z                   x = π/4 + πn , n ∈ Z

3sinxcosx+5cos^2x=4
1,5sin(2x)-2,5*cos(2x)=1,5
sin(2x)-5cos(2x)/3=1
Очевидно решение:
cos(2x)=0 sin(2x)=1
x=pi/4+pi*N
Есть ли еще? Пусть sin(2x)=a
a-5*sqrt(1-a^2)/3=1
-5*sqrt(1-a^2)/3=1-a
-5*sqrt(1+a)=3*sqrt(1-a)
25+25a=9-9a
16=-34a
a=-8/17
Еще два множества решений:
x=-arcsin(8/17)/2+pi*N
x=pi/2+arcsin(8/17)/2+pi*N
(надо проверить, что при возведении в квадрат не потеряли знак, очевидно не потеряли и в ОДЗ попадаем).
PS : Можно было заметить, что тангенс 2х равен (-8/15) и получить компактное выражение через арктангенс.