Đáp án:
a.$ x\in\{3, -1\}$
b.$ m\in\{1,-3\}$
Giải thích các bước giải:
a.Với $m=-2\to x^2-2x-2-1=0$
$\to x^2-2x-3=0$
$\to (x-3)(x+1)=0$
$\to x\in\{3, -1\}$
b.Để phương trình có $2$ nghiệm phân biệt
$\to \Delta'> 0$
$\to (-1)^2-1(m-1)> 0$
$\to m<2$
Khi đó phương trình có $2$ nghiệm $x_1, x_2$ thỏa mãn:
$\begin{cases}x_1+x_2=2\\x_1x_2=m-1\end{cases}$
Ta có $m<2\to 3-m>0$
$\to |m-3|=3-m$
$\to x_1^2+x_2^2-3x_1x_2=2m^2+|m-3|$
$\to(x_1+x_2)^2-5x_1x_2=2m^2+3-m$
$\to 2^2-5(m-1)=2m^2+3-m$
$\to m\in\{1,-3\}$ thỏa mãn $m<2$