Đáp án:
`a)` `m\ge -1`
`b)` `m=-4+\sqrt{17}`
Giải thích các bước giải:
`a)` `x^2-2(m+1)x+m^2-1=0`
Ta có: `a=1;b=-2(m+1);c=m^2-1`
`=>b'=-(m+1)`
`∆'=b'^2-ac=[-(m+1)]^2-1.(m^2-1)`
`∆'=m^2+2m+1-m^2+1=2m+2`
Để phương trình có nghiệm
`<=>∆'\ge 0`
`<=>2m+2\ge 0`
`<=>2m> -2<=>m\ge -1`
Vậy `m\ge -1` thì phương trình có nghiệm
$\\$
`b)` Với `m\ge -1` phương trình có hai nghiệm `x_1;x_2`, theo hệ thức Viet ta có:
$\quad \begin{cases}x_1+x_2=\dfrac{-b}{a}=2(m+1)=2m+2\\x_1x_2=\dfrac{c}{a}=m^2-1\end{cases}$
Để `x_1^2+x_2^2=x_1x_2+8`
`<=>(x_1^2+2x_1x_2+x_2^2)-2x_1x_2=x_1x_2+8`
`<=>(x_1+x_2)^2=3x_1x_2+8`
`<=>(2m+2)^2=3.(m^2-1)+8`
`<=>4m^2+8m+4=3m^2-3+8`
`<=>m^2+8m-1=0` (*)
$∆'_*=4^2-1.(-1)=17>0$
`=>` (*) có hai nghiệm phân biệt
$\quad \begin{cases}m_1=-4+\sqrt{17}\ (thỏa\ đk)\\m_2=-4-\sqrt{17}\ (loại)\end{cases}$
Vậy `m=-4+\sqrt{17}` thỏa đề bài