Ta có: $\dfrac{1}{(x_{1}+1)^{2}} + \dfrac{1}{(x_{2}+1)^{2}} = 1$
$\Leftrightarrow \dfrac{(x_{2} + 1)^{2} + (x_{1} + 1)^{2}}{[(x_{1}+1)^{2}][(x_{2}+1)^{2}]}$
$\Leftrightarrow \dfrac{(x_{1}x_{2})^{2} - 2x_{1}x_{2} - 2(x_{1} + x_{2}) + 2}{(x_{1}x_{2})^{2} - 2x_{1}x_{2}(x_{1} + x_{2}) + (x_{1} + x_{2})^{2} + 2x_{1}x_{2} - 2(x_{1} + x_{2}) + 1} = 1$ $(*)$
Áp dụng định lý Vi-ét vào phương trình đã cho ta được:
$\left \{ {{x_{1} + x_{2}=\dfrac{-b}{a} = -5} \atop {x_{1}x_{2}=\dfrac{c}{a} = m-2}} \right.$
Thay vào $(*)$, phương trình trở thành:
$\frac{5^{2} - 2(m-2)-2.(-5) + 2}{(m-2)^{2} - 2(m-2).(-5) + 5^{2} +2(m-2) - 2.(-5)+1}=1$
$\Leftrightarrow m^{2} + 8m + 16 = -2m + 41$
$\Leftrightarrow m^{2} + 10m - 25 = 0$
$\Leftrightarrow$ \(\left[ \begin{array}{l}m=-5 - 5\sqrt{2}\\m=-5 + 5\sqrt{2}\end{array} \right.\)
$\\$
Mấy cái này dài ngoằn, bạn chịu khó kiểm lại xem mình đã quy đồng, nhân phân phối, thay $m$ và tính toán đúng chưa nha. Nhiều lúc rối quá lộn tùng phèo thành ra tính sai. Bạn thông cảm.