Đáp án:
a) Xét pt hoành độ giao điểm:
$\begin{array}{l}
{x^2} = \left( {m + 1} \right)x - 2\\
\Rightarrow {x^2} - \left( {m + 1} \right)x + 2 = 0\\
\Rightarrow \Delta > 0\\
\Rightarrow {\left( {m + 1} \right)^2} - 8 > 0\\
\Rightarrow {\left( {m + 1} \right)^2} > {\left( {2\sqrt 2 } \right)^2}\\
\Rightarrow \left[ \begin{array}{l}
m > 2\sqrt 2 - 1\\
m < - 2\sqrt 2 - 1
\end{array} \right.\\
TheoViet:\left\{ \begin{array}{l}
{x_1} + {x_2} = m + 1\\
{x_1}{x_2} = 2
\end{array} \right.\\
x_1^2 + x_2^2 = 5\\
\Rightarrow {\left( {{x_1} + {x_2}} \right)^2} - 2{x_1}{x_2} = 5\\
\Rightarrow {\left( {m + 1} \right)^2} - 4 = 5\\
\Rightarrow {\left( {m + 1} \right)^2} = 9\\
\Rightarrow \left[ \begin{array}{l}
m = 2\left( {tm} \right)\\
m = - 4\left( {tm} \right)
\end{array} \right.
\end{array}$
b) Phương trình có đúng 2 nghiệm phân biệt thì phương trình:
${t^2} - 2mt + {m^2} - 1 = 0\left( {t = \left| x \right|} \right)$
Phải có nghiệm kép dương
$\begin{array}{l}
{t^2} - 2mt + {m^2} - 1 = 0\left( {t = \left| x \right|} \right)\\
\Rightarrow \left\{ \begin{array}{l}
{m^2} - 1 \ne 0\\
\Delta ' = 0
\end{array} \right.\\
\Rightarrow \left\{ \begin{array}{l}
m \ne \pm 1\\
{m^2} - {m^2} + 1 = 0\left( {vô\,lý} \right)
\end{array} \right.
\end{array}$
Vậy không có giá trị m để pt có đúng 2 nghiệm phân biệt.