$x^{2}-2(m+1)x+m^{2}+m+1=0$
$∆'=[-(m+1)]^{2}-1.(m^{2}+m+1)$
$=m^{2}+2m+1-m^{2}-m-1$
$=m$
Để pt có $2$ nghiệm phân biệt $x_{1}; x_{2}$
`<=>`$∆'>0$`<=>`$m>0$
Với $m>0$ thì pt có $2$ nghiệm phân biệt $x_{1}; x_{2}$
Theo hệ thức Vi-et ta có: \(\begin{cases}x_{1}+x_{2}=2m+2\\x_{1}x_{2}=m^{2}+m+1\\\end{cases}\)
Ta có:
$x_{1}^{2}+x_{2}^{2}=3x_{1}x_{2}-1$
`<=>`$(x_{1}+x_{2})^{2}-2x_{1}x_{2}=3x_{1}x_{2}-1$
`<=>`$(x_{1}+x_{2})^{2}-5x_{1}x_{2}=-1$
`<=>`$(2m+2)^{2}-5(m^{2}+m+1)=-1$
`<=>`$4m^{2}+8m+4-5m^{2}-5m-5=-1$
`<=>`$-m^{2}+3m=0$
`<=>`$m(-m+3)=0$
`<=>`\(\left[ \begin{array}{l}m=0\\-m+3=0\end{array} \right.\)
`<=>`\(\left[ \begin{array}{l}m=0\\-m=-3\end{array} \right.\)
`<=>`\(\left[ \begin{array}{l}m=0 (loại)\\m=3 (t/m)\end{array} \right.\)
Vậy $m=3$ thỏa mãn yêu cầu bài toán