Xét phương trình hoành độ giao điểm của `(P)` và `(d)` ta có:
`-x^2=mx-m-1`
`<=>-x^2-mx+m+1=0`
`<=>x^2+mx-m-1=0`
`Delta=m^2-4.1.(-m-1)`
`=m^2+4m+4`
`=(m+2)^2\geq0∀m∈RR`
Để `(P)` cắt `(d)` tại 2 điểm phân biệt thì: `m+2\ne0<=>m\ne-2`
Theo hệ thức Vi - ét ta có: $\begin{cases}x_1+x_2=m\\x_1x_2=-m-1\end{cases}$
Lại có: `x_1^2+x_2^2<2`
`<=>x_1^2+2x_1x_2+x_2^2-2x_1x_2<2`
`<=>(x_1+x_2)^2-2x_1x_2<2`
`=>m^2-2(-m-1)<2`
`<=>m^2+2m+2<2`
`<=>m^2+2m<0`
`<=>m(m+2)<0`
`<=>`\(\left[ \begin{array}{l}\begin{cases}m>0\\m+2<0\end{cases}\\\begin{cases}m<0\\m+2>0\end{cases}\end{array} \right.\) `<=>`\(\left[ \begin{array}{l}\begin{cases}m>0\\m<-2\end{cases}\\\begin{cases}m<0\\m>-2\end{cases}\end{array} \right.\)`<=>0>m>` `-2`
Kết hợp với điều kiện ta được: `-2<m<0` thì.....
