Đáp án: $a=\dfrac23$
Giải thích các bước giải:
Để phương trình có 2 nghiệm
$\to \Delta =(a-1)^2-4(-a^2+a-2)\ge 0$
$\to 5a^2-6a+9\ge 0$
$\to 4a^2+(a-3)^2\ge 0$ đúng với mọi $a$
Khi đó phương trình có 2 nghiệm thỏa mãn
$\begin{cases}x_1+x_2=a-1\\x_1x_2=-a^2+a-2\end{cases}$
$\to P=x_1^2+x_2^2$
$\to P=x_1^2+x_2^2+2x_1x_2-2x_1x_2$
$\to P=(x_1+x_2)^2-2x_1x_2$
$\to P=(a-1)^2-2(-a^2+a-2)$
$\to P=3a^2-4a+5$
$\to P=3\left(a-\dfrac{2}{3}\right)^2+\dfrac{11}{3}\ge \dfrac{11}3$
Dấu = xảy ra khi $a=\dfrac23$