$\Delta=[-2(m+1)]^2-4(m^2+2)$
$=4(m^2+2m+1)-4m^2-8$
$=4m^2+8m+4-4m^2-8$
$=8m-4$
Phương trình có nghiệm khi $\Delta≥0⇔8m-4≥0⇔m≥\dfrac{1}{2}$
Áp dụng hệ thức Vi-ét:
$\begin{cases}x_1+x_2=2(m+1)=2m+2\\x_1.x_2=m^2+2\end{cases}$
$x_1^2+x_2^2=10$
$⇔(x_1+x_2)^2-2x_1.x_2=10$
Thay vào ta được:
$(2m+2)^2-2(m^2+2)=10$
$⇔4m^2+8m+4-2m^2-4-10=0$
$⇔2m^2+8m-10=0$
$⇔2m^2-2m+10m-10=0$
$⇔2m(m-1)+10(m-1)=0$
$⇔(m-1)(2m+10)=0$
\(⇔\left[ \begin{array}{l}m-1=0\\2m+10=0\end{array} \right.\)
\(⇔\left[ \begin{array}{l}m=1\\x=-5\end{array} \right.\)
Vậy để phương trình đã cho có hai nghiệm thỏa mãn hệ thức $x_1^2+x_2^2=10$ thì $m=1$ hoặc $m=-5$.
