`\qquad x^2-2x-m=0`
`∆'=b'^2-ac=(-1)^2-(-m)=m+1`
Để pt có $2$ nghiệm phân biệt thì $∆'>0$
`=>m+1>0<=>m> -1`
Khi $m>-1$, áp dụng định lý Viet ta có:
`x_1+x_2={-b}/a=2`
`x_1x_2=c/a=-m`
Ta có: `(x_1.x_2+1)^2 =2(x_1^2 + x_2^2 )`
`<=>(x_1x_2+1)^2=2[(x_1+x_2)^2-2x_1x_2]`
`<=>(-m+1)^2=2[2^2-2.(-m)]`
`<=>m^2-2m+1=2(4+2m)`
`<=>m^2-6m-7=0`
`<=>m^2-7m+m-7=0`
`<=>m(m-7)+m-7=0`
`<=>(m-7)(m+1)=0`
$⇔\left[\begin{array}{l}m-7=0\\m+1=0\end{array}\right.$$⇔\left[\begin{array}{l}m=7\ (thỏa \ đk)\\m=-1\ (không \ thỏa\ đk)\end{array}\right.$
Vậy `m=7`
