Xét ptrinh
$x^2 - (m-1)x - m^2 - 2 = 0$
a) Với $m = -1$, ptrinh trở thành
$x^2 +2x -3 = 0$
$<-> (x-1)(x+3) = 0$
Vậy tập nghiệm $S = \{-3, 1\}$.
b) Để ptrinh có 2 nghiệm phân biệt thì $\Delta > 0$ hay
$(m-1)^2 - 4(-m^2 - 2)> 0$
$<-> 5m^2 -2m + 9 > 0$
Tuy nhiên
$5m^2 - 2m + 9 = \left( m \sqrt{5} - \dfrac{1}{\sqrt{5}} \right)^2 + \dfrac{44}{5} \geq \dfrac{44}{5} > 0$ với mọi $m$
Vậy ptrinh có 2 nghiệm phân biệt với mọi $m$
Ta xét
$x_1^2 x_2 + x_1 x_2^2 = (x_1 + x_2)^2$
$<-> x_1 x_2 (x_1 + x_2) - (x_1 + x_2)^2 = 0$
$<-> (x_1 + x_2) (x_1 + x_2 - x_1 x_2) = 0$
Vậy $x_1 + x_2 = 0$ hoặc $x_1 + x_2 = x_1 x_2$
Áp dụng Viet ta có
$x_1 + x_2 = m-1, x_1 x_2 = -m^2 - 2$
TH1: $x_1 + x_2 = 0$
Suy ra $m - 1 = 0$ hay $m = 1$.
TH2: $x_1 + x_2 = x_1 x_2$
Suy ra
$m-1 = -m^2 - 2$
$<-> m^2 + m + 1 = 0$
$<-> \left( m + \dfrac{1}{2} \right)^2 + \dfrac{3}{4} = 0$ (vô lý)
Vậy $m = 1$.