5sin^2x - 4 sinx*cosx - cos^2x=0

10sinxcosx-4sinxcosx-cos^2x=0, 6sinxcosx-cos^2x=0, cosx (6sinx-cosx) = 0

cosx=0, x=pi/2 + pi n

6sinx-cosx=0, делим на cosx не = 0, 6tgx-1=0, tgx=1/6, x=arctg (1/6) + pi n

5sin^2x - тогда еще проще: сразу делить на cos^2x и получаем квадратное уравнение относительно тангенса