Найти значении параметра a, при котором сумма квадратов корней уравнения

x^2 - (a+1) x+a-1=0

является наименьшей.

Применяем теорему Виетта

x1+x2=a+1; x1*x2=a-1

возводим первое равенство в квадрат:

(x1) ^2+2*x1*x2 + (x2) ^2 = (a+1) ^2

Подставляем вместо x1*x2 его значение (a-1) :

(x1) ^2+2 * (a-1) + (x2) ^2 = (a+1) ^2

(x1) ^2 + (x2) ^2 = (a+1) ^2-2 * (a-1) = (a+1) ^2+2-2a

Ответ: a=0