Решите систему методом подстановки

x^2-y^2=24

2y-x=-7

Спокойно, без паники.

Из второго уравнения мы получаем x=2y+7

Подставляем в первое:

4y^2+2*2y*7+49-y^2=24 ⇒ 3y^2+28y-25=0

Считаем дискриминант: D=b^2-4ac=28^2+4*3*25=1084

y1,2 = (-28+√1084) / 6

Получившиеся значения y подставляем во вторую формулу. Получаем x1,2.

Надеюсь, что не напутал с арифметикой!)