sin² x + 2sinxcosx - cos² x = 0 |: sin²x, где sin²x ≠ 0, т. к. cos²x + sin²x = 1

1 + 2ctgx - ctg²x = 0

- ctg²x + 2ctgx + 1 = 0 |*1

ctg²x - 2ctgx - 1 = 0

Пусть ctgx=t

получается t² - 2t-1=0

как мне дальше решить?

может я где то ошиблась в начале в расчетах, помогите

Если в это уравнение делать замену переменной, то корни получатся х=1+-sqrt2

потом придется с помощью ухищрений решать уравнение tgx = ...

легче сделать так

sin² x + 2sinxcosx - cos² x = 0

sin^2x-cos^2x=-2sinxcosx

у нас две формулы

-cos2x=-sin2x

sin2x=cos2x

делим на cos2x

tg2x=1

2x=pi/4+pik

x=pi/8+pik/2