Ta có: `Δ=m^2-4`
Phương trình có hai nghiệm phân biệt `<=>Delta>0`
`<=>m^2-4>0`
`<=>m^2>4`
`<=>`\(\left[ \begin{array}{l}m<-2\\m>2\end{array} \right.\)
Theo hệ thức vi-ét: $\begin{cases}x_1+x_2=-m\\x_1x_2=1\end{cases}$
Theo giả thiết:
`(x_1/x_2)^2+(x_2/x_1)^2>7`
`<=>(x_1/x_2)^2+2+(x_2/x_1)^2>9`
`<=>(x_1/x_2+x_2/x_1)^2>9`
`<=>((x_1^2+x_2^2)/(x_1x_2))^2>9`
`<=>[((x_1+x_2)^2-2x_1x_2)/(x_1x_2)]^2>9`
`<=>[((-m)^2-2.1)/1]^2>9`
`<=>(m^2-2)^2>9`
`<=>`\(\left[ \begin{array}{l}m^2-2<-3\\m^2-2>3\end{array} \right.\)
`<=>`\(\left[ \begin{array}{l}m^2<-1\ (\rm vô\ lí)\\m^2>5\ (\rm nhận)\end{array} \right.\)
`<=>`\(\left[ \begin{array}{l}m<-\sqrt{5}\\m>\sqrt{5}\end{array} \right.\)
Vậy `(-\infty;\ -\sqrt{5})\cap (\sqrt{5};\ +\infty)`