5sin^2x-14sinxcox-cos^2x=2

5sin^2 x - 14sin x*cos x - cos^2 x = 2sin^2 x + 2cos^2 x

3sin^2 x - 14sin x*cos x - 3cos^2 x = 0

Делим все на cos^2 x

3tg^2 x - 14tg x - 3 = 0

Квадратное уравнение относительно tg x

D/4 = 7^2 - 3 (-3) = 49 + 9 = 58

tg x1 = (7 - √58) / 3 = - (√58 - 7) / 3; x1 = - arctg ((√58 - 7) / 3) + pi*k

tg x2 = (7 + √58) / 3; x2 = arctg ((7 + √58) / 3) + pi*n