Để phương trình có hai nghiệm phân biệt thi
$\begin{array}{l} \Delta ' > 0 \Leftrightarrow {\left( {m + 1} \right)^2} - {m^2} - 2 > 0\\ \Leftrightarrow 2m - 1 > 0 \Leftrightarrow m > \dfrac{1}{2} \end{array}$
Theo định lý Viète ta có:
$\left\{ \begin{array}{l} {x_1} + {x_2} = \dfrac{{ - b}}{a} = 2\left( {m + 1} \right)\\ {x_1}{x_2} = \dfrac{c}{a} = {m^2} + 2 \end{array} \right.$
Lại có theo giả thiết $x_1^2 + x_2^2 = 10$ nên:
$\begin{array}{l} x_1^2 + x_2^2 = 10\\ \Leftrightarrow {\left( {{x_1} + {x_2}} \right)^2} - 2{x_1}{x_2} = 10\\ \Leftrightarrow {\left[ {2\left( {m + 1} \right)} \right]^2} - 2\left( {{m^2} + 2} \right) = 10\\ \Leftrightarrow 4\left( {{m^2} + 2m + 1} \right) - 2{m^2} - 14 = 0\\ \Leftrightarrow 2{m^2} + 8m - 10 = 0\\ \Leftrightarrow {m^2} + 4m - 5 = 0\\ \Leftrightarrow \left( {m + 5} \right)\left( {m - 1} \right) = 0\\ \Leftrightarrow \left[ \begin{array}{l} m = - 5(Loại)\\ m = 1(Nhận) \end{array} \right. \end{array}$
